Эксперты по кибербезопасности протестуют против «опасного» запрета правительства США на самые мощные модели Anthropic

Группа из десятков экспертов по кибербезопасности, включая нескольких известных ветеранов индустрии, опубликовала открытое письмо правительству США с просьбой отменить экспортные ограничения на модели Fable и Mythos компании Anthropic.

Согласно письму, «эти действия лишили защитников лучших моделей», которые теперь не могут использовать их для поиска уязвимостей и повышения безопасности своего ПО и продуктов. «Отбирать лучшие возможности у защитников без веской причины, когда наши противники стремительно продвигаются вперед, — это опасно», — говорится в письме.

В пятницу правительство США предписало Anthropic ограничить экспорт Fable и Mythos, сославшись на угрозы национальной безопасности, но не объяснив конкретных причин. В ответ компания приостановила доступ к моделям для всех пользователей по всему миру.

На момент написания статьи письмо подписали 76 экспертов по кибербезопасности, включая Алекса Стамоса, бывшего главу службы безопасности Facebook; Кейси Эллиса, основателя платформы Bugcrowd; Джона Калласа, известного криптографа и бывшего менеджера Apple по архитектуре безопасности; Пола Викси, ученого-компьютерщика; Дино Дай Зови, бывшего руководителя отдела прикладной безопасности в Block; Кэти Муссурис, основательницу Luta Security; и Рэйчел Тобак, генерального директора SocialProof Security.

Когда Mythos был запущен в апреле в качестве превью, Anthropic заявила, что модель настолько эффективна в поиске уязвимостей, что компания была вынуждена жестко ограничить доступ, чтобы предотвратить использование модели хакерами или иностранными противниками. На практике это означало, что Anthropic предоставила первоначальный доступ к Mythos примерно 50 компаниям, недавно расширив эту группу до 150 организаций в 15 странах.

На прошлой неделе Anthropic выпустила Fable — публичную версию Mythos, которая, по заявлению компании, имеет строгие ограничения, блокирующие ее использование в областях биологии, химии и кибербезопасности, а также предотвращающие дистилляцию модели для ее воссоздания. Ограничения Fable были настолько строгими, что многие эксперты по кибербезопасности обнаружили, что модель блокирует практически любые запросы, связанные с кибербезопасностью.

Anthropic заявила, что указ Белого дома об экспортном контроле мог быть основан на отчете о существовании метода обхода (джейлбрейка) Fable для разблокировки мощных возможностей уровня Mythos.

По словам Кэти Муссурис, одной из подписавших письмо, этот метод был продемонстрирован исследователями Amazon в неопубликованной статье, с которой она ознакомилась. Однако Муссурис в своем блоге заявила, что статья на самом деле не демонстрирует реальный джейлбрейк. Вместо этого, по ее словам, исследователи просто попросили Fable исправить код с открытым исходным кодом, содержащий известные уязвимости, а также «намеренно внедренные уязвимости», после того как модель изначально отказалась «проверять код на наличие проблем безопасности».

«Описанное в статье поведение нельзя осмысленно исправить, и любая попытка только ослабит модель для защиты, — написала Муссурис. — Защитникам нужно иметь возможность попросить ИИ исправить ошибки в файле, объяснить, почему это важно, и написать тесты, подтверждающие, что исправление работает. Это не обход ограничений. Это самое ценное, что модель ИИ может сделать для оборонительной безопасности: выполнить цикл поиска, исправления и тестирования, который защитники выполняют каждый день».

Критику Муссурис поддержали в открытом письме, где также заявили, что группа экспертов считает, что возможности модели, описанные в статье Amazon, «можно воспроизвести» на OpenAI GPT-5.5, на общедоступных моделях Anthropic Claude Opus 4.8 и Sonnet, «и даже на китайских моделях, таких как Kimi 2.7».

Муссурис рассказала TechCrunch, что «ошибки, использованные для демонстрации техник в статье, можно найти с помощью других моделей. Метод, описанный в статье, является техникой обхода ограничений. Другие модели, у которых нет ограничений Fable, часто не отказываются от прямого запроса на поиск ошибок безопасности, поэтому им не нужен обход».

Письмо также призывает к созданию прозрачных и справедливо применяемых правил, разработанных «демократическим нормотворческим процессом», основанных на научных исследованиях, проведенных отраслевыми и академическими экспертами, и «используемых только в минимальной степени, необходимой для обеспечения безопасности американского народа».

* Meta, Facebook и Instagram запрещены в России.