Google впервые обнаружила эксплойт нулевого дня, созданный с помощью ИИ

Компания Google сообщила, что выявила, возможно, первую в мире реальную эксплуатацию уязвимости нулевого дня, разработанную с помощью искусственного интеллекта. Это может ознаменовать важный сдвиг в том, как создаются кибератаки.

В отчете, опубликованном группой Google Threat Intelligence Group (GTIG) 11 мая, компания заявила, что злоумышленники использовали помощь ИИ для обнаружения и эксплуатации ранее неизвестной уязвимости в широко используемом инструменте администрирования веб-сайтов с открытым исходным кодом. Сообщается, что эта ошибка позволяла атакующим обходить двухфакторную аутентификацию после получения учетных данных для входа.

По данным Google, информация об уязвимости была раскрыта разработчику, и она была исправлена до того, как ее могли использовать в более масштабных атаках.

Внимание исследователей привлек сам код эксплойта. Google утверждает, что скрипт на Python демонстрировал несколько признаков, обычно связанных с кодом, сгенерированным ИИ, включая чрезмерно поучительные комментарии, структурированное форматирование, напоминающее учебник, и даже вымышленную оценку CVSS, которая на самом деле не существовала.

Примечательно, что уязвимость не была традиционной ошибкой повреждения памяти или простой опечаткой в коде. Вместо этого она затрагивала бизнес-логику и семантический анализ более высокого уровня — область, в которой современные модели ИИ начали демонстрировать более сильные возможности. Проще говоря, ИИ, по-видимому, помог соединить фрагменты поведения приложения, которые в совокупности можно было использовать во вред.

Специалисты по безопасности уже некоторое время предупреждают, что ИИ может снизить порог для более сложных кибератак, особенно помогая менее опытным злоумышленникам автоматизировать части процесса, которые ранее требовали более глубоких технических знаний.

В то же время такие компании, как Google, также используют ИИ в оборонительных целях, например, для автоматического обнаружения ошибок, анализа угроз и разработки исправлений. Тем не менее, этот последний случай, вероятно, придаст больше актуальности дискуссиям об угрозах кибербезопасности на базе ИИ.

Хотя инцидент, по-видимому, удалось локализовать до того, как он получил широкое распространение, исследователи считают его ранним признаком того, что ИИ может все чаще становиться частью обеих сторон ландшафта кибербезопасности.

(Источник: Google)