Правительство США заблокировало самые мощные ИИ-модели Anthropic из-за угроз безопасности

Правительство США в пятницу приказало компании Anthropic немедленно отключить доступ к двум ее самым мощным моделям ИИ — Claude Fable 5 и Claude Mythos 5 — ссылаясь на угрозы национальной безопасности. Anthropic объявила в X, что выполнила требование, но дала понять, что считает решение властей ошибочным.

Предписание, которое Anthropic получила в пятницу в 21:21 по московскому времени, вынуждает компанию отключить обе модели для всех пользователей по всему миру. Доступ к другим моделям Anthropic не затронут.

Mythos — самая производительная модель Anthropic, которую компания анонсировала в начале апреля и держала под строгими ограничениями из-за ее исключительной способности находить уязвимости в программном обеспечении. По данным Anthropic, Mythos выявила недостатки во всех основных операционных системах и веб-браузерах, которые тестировала. Вместо широкого релиза компания запустила программу Project Glasswing, предоставив доступ примерно 50 проверенным организациям, включая Amazon, Apple, Google, Microsoft и CrowdStrike, для оборонительной кибербезопасности.

Fable 5, выпущенная всего три дня назад, стала ответом Anthropic на коммерческое давление: версия Mythos с ограничителями, блокирующими ответы в таких рискованных областях, как кибербезопасность и биология. По данным бенчмарков Vals AI, она сразу стала самой производительной публично доступной моделью ИИ.

Предписание правительства оформлено как мера экспортного контроля, ограничивающая доступ иностранных граждан к моделям. Однако в своем блоге Anthropic утверждает, что истинная причина — предполагаемый взлом Fable 5. Компания заявляет, что правительство предоставило лишь устные доказательства «потенциального узкого, неуниверсального взлома», который, по сути, сводится к тому, что модель попросили прочитать конкретную кодовую базу и выявить ошибки. Anthropic добавляет, что такой «уровень возможностей» уже широко доступен в других публичных моделях, включая GPT-5.5 от OpenAI, и регулярно используется специалистами по кибербезопасности.

Anthropic утверждает, что ее самые надежные средства защиты работают через независимые классификаторы, функционирующие отдельно от самой модели. Это означает, что даже если Fable удастся убедить продолжить разговор после отказа, базовые механизмы защиты от самых опасных результатов остаются в силе.

Компания не скрывает разочарования: «Мы не согласны с тем, что обнаружение узкого потенциального взлома должно быть причиной для отзыва коммерческой модели, развернутой для сотен миллионов людей. Если бы этот стандарт применялся ко всей отрасли, мы считаем, что это фактически остановило бы все новые развертывания моделей для всех ведущих провайдеров».

Ожидается, что Anthropic проведет IPO в этом году, и компания позиционировала себя как безопасную альтернативу конкурентам. Ирония в том, что именно осторожность, проявленная Anthropic в ограничении Mythos — которую компания рекламировала как настолько опасную модель, что ее нельзя публично выпускать — привлекла внимание правительства, способное серьезно нарушить ее бизнес.

Глава OpenAI Сэм Альтман, вероятно, наслаждается ситуацией. В апреле он заявил, что подход Anthropic к Mythos — это «маркетинг, основанный на страхе». «Это, очевидно, невероятный маркетинг — сказать: "Мы создали бомбу. Мы собирались сбросить ее вам на голову. Мы продадим вам бомбоубежище за 100 миллионов долларов"», — сказал Альтман. Он не предсказывал правительственного запрета, но указал на то, что когда вы месяцами рассказываете миру, что ваш ИИ уникально опасен, мир — включая правительство США — склонен прислушиваться.