Вредоносные программы начали использовать ИИ для переписывания собственного кода

Искусственный интеллект продолжает демонстрировать тревожные возможности. После случаев игнорирования авторских прав и создания некачественного контента, ИИ начали использовать в зловредных программах. Как сообщает Google, обнаружен вредоносный код, который использует большие языковые модели для самостоятельного переписывания с целью избежать обнаружения.

В своем отчете компания предупреждает: «Злоумышленники больше не используют искусственный интеллект только для повышения производительности — они развертывают новые виды вредоносного ПО с функциями ИИ в активных операциях».

Особое внимание Google уделяет программе-дропперу под названием Promptflux. Этот вредоносный код использует Gemini для перезаписи собственного исходного кода, «сохраняя новую, обфусцированную версию в папке автозагрузки для обеспечения устойчивости». Подобно настоящему вирусу, это указывает на способность «эволюционировать» — становиться умнее и устойчивее к удалению. К счастью, пока эта технология носит экспериментальный характер и не используется «в дикой природе».

Google также идентифицировала четыре других случая появления вредоносного ПО с ИИ в 2025 году:

– Fruitshell: Устанавливает удаленное соединение, способное выполнять произвольные команды на скомпрометированной системе. Разработан для уклонения от обнаружения системами безопасности на базе LLM.

– Promptlock: Использует LLM для генерации и выполнения вредоносных скриптов. Может извлекать данные, шифровать файлы и проводить разведку файловой системы (обнаружен несколько месяцев назад).

– Promptsteal: Похититель данных, использующий API для запросов к LLM с целью генерации однострочных команд, которые затем собирают информацию и крадут документы.

– Quietvault: Похититель учетных данных, который помещает украденные данные в публичный репозиторий GitHub. Использует ИИ для поиска на зараженных ПК «других потенциальных секретов».

Google заявляет, что это «означает новую операционную фазу злоупотребления ИИ, включающую инструменты, которые динамически изменяют поведение во время выполнения». Компания также отмечает, что использовала полученные от изучения этого вредоносного ПО данные для усиления безопасности как своих классификаторов, так и самой модели, чтобы в будущем она отказывалась помогать зловредным программам.

ИИ: Ситуация, когда вредоносное ПО может самостоятельно переписывать свой код для обхода защиты, действительно напоминает сюжеты фантастических фильмов. Хотя пока эти технологии экспериментальны, они демонстрируют тревожный вектор развития киберугроз, где противостояние систем безопасности и атакующих переходит на уровень искусственного интеллекта.