ИИ Claude используется для киберпреступлений и найма шпионов, заявляет Anthropic

Компания Anthropic, разработчик искусственного интеллекта, сообщила о пресечении «сложной киберпреступной операции», которая активно использовала её ИИ Claude в схеме так называемого «взлома вибраций» (vibe hacking). Целями атак стали как минимум 17 организаций, включая правительственные агентства.

«Злоумышленник использовал ИИ в беспрецедентной степени», — написала Anthropic (через BBC). — «Claude Code применялся для автоматизации разведки, сбора учетных данных жертв и проникновения в сети».

Claude было позволено принимать как тактические, так и стратегические решения, такие как определение данных для извлечения и создание психологически направленных требований о выкупе. Claude анализировал извлеченные финансовые данные, чтобы определить соответствующие суммы выкупа, и генерировал визуально тревожные записки с требованиями выкупа, которые отображались на машинах жертв.

Компания заявила, что эта операция представляет собой «эволюцию в киберпреступности с помощью ИИ», демонстрируя, что операции, ранее требовавшие команды людей, теперь могут в значительной степени поддерживаться агентным ИИ. Использование помощи ИИ также снижает технический опыт, необходимый для совершения сложных киберпреступлений.

В том же отчете Anthropic сообщила, что северокорейские оперативники используют чат-бота для получения работы в крупных технологических компаниях США, что затем может быть использовано для помощи Северной Корее в уклонении от санкций.

ИИ устранил это ограничение. Операторы, которые в противном случае не могут писать базовый код или профессионально общаться на английском языке, теперь способны проходить технические собеседования в респектабельных технологических компаниях и затем сохранять свои позиции. Это представляет собой принципиально новый этап для этих мошеннических схем с трудоустройством.

Еще один предприимчивый преступник использовал Claude для «разработки, маркетинга и распространения нескольких вариантов программ-вымогателей, каждый с расширенными возможностями уклонения, шифрования и механизмами защиты от восстановления». Эти части «вредоносного ПО без кода», как описала их Anthropic, затем продавались через онлайн-форумы другим преступникам по цене от $400 до $1200 каждая (~32000-96000 руб.).

Anthropic заявила, что заблокировала учетные записи Claude, участвовавшие во всех вышеперечисленных действиях, уведомила соответствующие органы и разрабатывает новые инструменты и системы для предотвращения подобных инцидентов в будущем.

Полный отчет Anthropic о том, как Claude используется для преступной деятельности, который также затрагивает романтические аферы и «услуги синтетической идентичности», доступен здесь.