Руководители отделов кибербезопасности всё больше обеспокоены атаками с использованием ИИ

Почти четверть руководителей отделов кибербезопасности заявили, что их компании столкнулись с атаками на основе искусственного интеллекта за последний год, согласно новому исследованию, где угрозы ИИ стали ключевой проблемой.

Количество атак с использованием ИИ, вероятно, недооценивается, так как их сложно отличить от атак, проводимых людьми, говорится в отчёте израильского венчурного фонда Team8, специализирующегося на кибербезопасности, ИИ, данных, финтехе и цифровом здравоохранении. В опросе участвовали около 110 директоров по информационной безопасности (CISO), которые выразили как опасения по поводу злонамеренного использования ИИ, так и надежду на его потенциал для усиления защиты.

«Мы уже видим влияние атак на основе ИИ — особенно изощрённых фишинговых кампаний и deepfake-видео, которые выглядят невероятно убедительно и их сложно распознать», — заявила Мэнди Андресс, директор по информационной безопасности компании Elastic, занимающейся IT и анализом данных.

Самые заметные примеры атак с ИИ включают deepfake-видео, клонирование голоса и тактики реального мошенничества, эксплуатирующие человеческое доверие. Однако ИИ также может использоваться для масштабирования и ускорения атак, а в будущем может превратиться в автономное оружие, действующее без вмешательства человека.

«Они могут автоматически находить уязвимости в огромных масштабах», — пояснила Ноа Хен, директор по стратегии Team8. «ИИ позволяет злоумышленникам писать вредоносное ПО гораздо быстрее».

Почти 40% опрошенных CISO отметили, что защита «ИИ-агентов», выполняющих задачи для пользователей, остаётся нерешённой проблемой, так как их можно обмануть или заставить совершать ошибки. Почти столько же руководителей обеспокоены контролем использования ИИ сотрудниками.

77% CISO ожидают, что первыми, кого заменят автономные ИИ-агенты, станут малоопытные аналитики в центрах безопасности, которые занимаются обнаружением и реагированием на инциденты.

«ИИ — это в первую очередь скорость и масштаб», — отметил Майк Роджерс, бывший адмирал, возглавлявший Агентство национальной безопасности и Киберкомандование США. «Это помогает атакующим, но именно это нужно и защитникам».

Более 40% респондентов признали, что уязвимости в их системах остаются неисправленными после установленных сроков из-за нехватки персонала или времени. Некоторые также отметили отсутствие исправлений или риск нарушения работы компании при обновлении систем.

Интересно, что около 60% организаций предпочитают специализированные инструменты кибербезопасности вместо комплексных платформ, что может указывать на смену тренда после многолетнего стремления к консолидации решений.