Эволюция кибербезопасности в эпоху генеративного искусственного интеллекта

Теперь, учитывая достижения генеративного искусственного интеллекта, атаки осуществляются за секунды и минуты, а не за дни или недели, что намного превышает человеческие возможности обнаружить и отреагировать на них. Фактически, по данным подразделения противодействия угрозам Dell Secureworks, киберпреступники внедряют программы-вымогатели в течение суток с момента первоначального проникновения в организацию. Это время значительно сократилось в 2023 году с 4,5 дней в 2022 году и 5,5 дней годом ранее.

К сожалению, большинство организаций не имеют хороших возможностей для борьбы с этими новыми угрозами, поскольку они не инвестируют в наиболее экономичные и эффективные решения в области кибербезопасности. Если принять во внимание, что мировые расходы на решения и услуги безопасности, по прогнозам, составят 219 миллиардов долларов в 2023 году (хотя в первом квартале 2023 года более шести миллионов записей данных были раскрыты во всем мире в результате утечек данных), это вызывает беспокойство.

Итак, что же могут сделать предприятия, чтобы положить конец этому циклу и получить максимальную отдачу от своих инвестиций в кибербезопасность? Полдела — это понимание ИИ и того, как он используется как злоумышленниками, так и защитниками для расширения своих возможностей.

Что ИИ может построить — он может и разрушить

При злонамеренном использовании ИИ создает хаос. От глубоких фейков до социальной инженерии и создания вредоносного ПО — эта технология может способствовать развитию самых разных видов мошенничества.

Говоря конкретно о генеративном искусственном интеллекте, вредоносные модели Gen-AI могут воспользоваться улучшенной автоматизацией атак, особенно когда эта технология делает все значительно дешевле и быстрее. Реальную озабоченность вызывает и социальная инженерия, поскольку ИИ может помочь доставлять сложные, подлинные электронные письма, которые будут использоваться в рамках целевых атак, таких как целенаправленный фишинг или обычные фишинговые кампании, включая голосовую почту и сообщения в чате. Например, многие сегодняшние попытки фишинга легко распознаются по плохой грамматике или орфографии. ИИ позволит вредоносным моделям Gen-AI быстро просматривать и редактировать электронные письма, чтобы они выглядели более достоверными перед их отправкой. По мере развития этой технологии организации также могут ожидать появления более высококачественного и реалистичного видеоконтента с дипфейками.

ИИ также используется для создания полиморфных вредоносных программ. Это позволяет разрабатывать легко изменяемые варианты кода угроз и пакеты вредоносных программ, которые постоянно изменяются, чтобы избежать обнаружения текущими средствами безопасности. Это может сместить баланс сил в сторону злоумышленников, поскольку защита с трудом успевает обновлять варианты использования и конфигурацию своих превентивных и детективных мер безопасности.

Бей противника его же оружием

Решения этой проблемы путем найма более квалифицированных ресурсов или изменения методов гибридной работы просто будет недостаточно для борьбы с этими проблемами ИИ. В результате организации ДОЛЖНЫ принять меры. Генеративный ИИ сам по себе может стать частью решения, поэтому организациям НУЖНЫ эти инструменты, поскольку другого способа обеспечить безопасность активов нет.

Хорошей новостью является то, что клиенты уже могут защитить себя, работая с OEM-производителями, используя ИИ для улучшения видимости собственных угроз, значительного обнаружения и реагирования на них с наименьшими эксплуатационными расходами и получения положительных результатов относительно быстрее, чем это было до появления генеративного ИИ. эпоха.

Что касается обнаружения угроз, инструменты генеративного искусственного интеллекта могут понимать модели поведения пользователей и объектов в сети, чтобы идентифицировать вредоносные модели Gen-AI. Это может помочь организациям масштабировать возможности существующих групп безопасности, позволяя анализировать огромные объемы неструктурированных данных в реальном или почти реальном времени для обнаружения и прогнозирования потенциальных угроз, которые выходят за рамки возможностей аналитика-человека. Кроме того, такие инструменты, как краудсорсинговый обмен информацией о киберугрозах и поведенческий анализ на основе искусственного интеллекта, могут помочь предприятиям в создании более эффективных превентивных стратегий киберзащиты.

Однако многое из этого легче сказать, чем сделать. ИИ может быть широким термином, и, учитывая широкий спектр решений ИИ на рынке, может быть сложно определить, какое решение действительно изменит ситуацию в области безопасности. Вот почему крайне важно, чтобы партнеры использовали информацию и поддержку, чтобы организации могли решать конкретные проблемы и защищать цифровые активы масштабируемым и перспективным способом.

Генеративный ИИ никуда не денется: как обеспечить будущее, основанное на ИИ?

По данным анализа эволюции программ-вымогателей Dell SecureWorks, за последние пару лет мы стали свидетелями значительного увеличения количества атак с использованием программ-вымогателей и проявления программы-вымогателя как услуги, использующей больше вредоносных моделей Gen-AI, чтобы помочь организовать и получить прибыль от более высокой частоты успешных атак программ-вымогателей. Генеративные модели искусственного интеллекта, такие как FraudGPT, WarmGPT и многие другие, которые часто представлены в Darkweb.

Таким образом, чтобы подготовиться к влиянию генеративного искусственного интеллекта на программы-вымогатели и среду кибербезопасности, организациям следует рассмотреть следующие три ключевых действия:

1. Во-первых, предприятиям необходимо использовать ИИ в качестве ключевой основы своей стратегии кибербезопасности. Как отмечалось выше, атаки с использованием искусственного интеллекта, высокоавтоматизированные и скриптованные атаки можно защитить только с помощью решений по управлению угрозами на базе искусственного интеллекта, позволяющих снизить риск и влияние этих атак на бизнес. Таким образом, организациям необходимо как можно скорее инвестировать и интегрировать решения безопасности на основе искусственного интеллекта в свой существующий арсенал безопасности.

2. Во-вторых, генеративный ИИ как технология никуда не денется и будет развиваться. Таким образом, важно оценить давние существующие методы обеспечения безопасности и, если необходимо, повысить квалификацию инженеров по решениям на базе искусственного интеллекта. Люди находятся в центре нынешней эволюции ИИ. Таким образом, наем или обучение ИТ-специалистов со знаниями в области искусственного интеллекта позволит принимать правильные решения и поможет организациям опережать кривую внедрения искусственного интеллекта и потенциальные риски.

3. Наконец, организациям необходимо оставаться открытыми для решения задач ИИ и при необходимости переосмысливать процедуры и процессы. Для этого организациям следует регулярно проводить оценку зрелости и недостатков, оценивать текущее состояние безопасности, развертывать средства контроля и намечать конкретные переходные шаги, которые необходимо предпринять для разработки устойчивой стратегии по смягчению новой волны автоматизированных киберугроз, управляемых искусственным интеллектом, и множественных угроз. инсценированные атаки, такие как программы-вымогатели и фишинговые кампании.

Поэтому крайне важно, чтобы компании научились адаптироваться и инвестировать в правильные решения в области кибербезопасности, отвечающие текущим потребностям. В свою очередь, это в конечном итоге поможет бизнесу лучше ориентироваться в быстро меняющемся ландшафте угроз. Кроме того, предприятия станут более устойчивыми, продуктивными и конкурентоспособными, если с уверенностью примут эту цифровую революцию – как сейчас, так и в будущем.