Правительство США заблокировало модели ИИ Anthropic: конфликт из-за экспортного контроля или личных разногласий?

Предпраздничное письмо Министерства торговли США компании Anthropic, фактически вынудившее её отключить свои новейшие модели ИИ, стало тревожным сигналом для всей американской технологической индустрии. В пятницу днём ведомство направило Anthropic уведомление, сославшись на малоизвестную директиву экспортного контроля. Документ запрещал неамериканцам, включая сотрудников самой компании, доступ к моделям Fable 5 и Mythos 5, ссылаясь на неуточнённые соображения национальной безопасности. Anthropic заявила, что полагает, будто письмо связано с обходом защитных механизмов модели, но не уверена в этом, так как в документе отсутствуют конкретные детали. Само письмо не было опубликовано.

В ответ Anthropic отключила обе свои топовые модели для всех клиентов, чтобы гарантированно соблюсти директиву. Таким образом, правительство США успешно принудило технологическую компанию отозвать свои продукты односторонним и быстрым действием, которое, судя по всему, не требовало одобрения суда. Вмешательство администрации Трампа демонстрирует, что индустрия ИИ не застрахована от государственного вмешательства. Это также предупреждение для всей технологической отрасли: подчиняйтесь, или мы можем отключить вас и ваши продукты.

Ссылаясь на источники, Axios описывает напряжённую ситуацию, сложившуюся между двумя сторонами в выходные. По данным издания, причиной экспортной директивы стали «личностные различия» между Anthropic и администрацией Трампа, а не техническая проблема с продуктами ИИ. Новые детали, появившиеся за выходные, ещё больше ставят под сомнение и без того шаткую аргументацию правительства.

Кэти Мусурис, ветеран кибербезопасности и основательница Luta Security, в своём блоге сообщила, что Anthropic недавно поделилась с ней приватной копией доклада исследователей безопасности, описывающего предполагаемый обход защитных механизмов в Fable 5. (По данным The Wall Street Journal, авторами доклада являются исследователи безопасности из Amazon.) Мусурис рассказала, что Anthropic обратилась к ней за оценкой этого документа. В своём посте она описала, как исследователи инициировали обход защиты, но заявила, что сам по себе этот обход «никогда не должен был стать поводом для экспортного контроля». Разница в основном заключается в том, просите ли вы ИИ-модель «проверить код на уязвимости» или «исправить этот код». Конечный результат во многом одинаков, даже если вопросы сформулированы немного по-разному.

«Поведение, описанное в докладе, невозможно осмысленно исправить, и любая попытка лишь ослабит модель для защиты», — заявила Мусурис, раскритиковав директиву экспортного контроля как поспешную, жёсткую и ошибочную. Мусурис и десятки других ведущих экспертов по безопасности призвали администрацию Трампа отменить приказ об экспортном контроле, назвав шаг по изъятию передовых возможностей кибербезопасности у сетевых защитников в США «опасным».

Джастин Хендрикс, редактор Tech Policy Press, заявил, что действия администрации Трампа «вероятно, вызовут тревогу в зарубежных столицах относительно надёжности американского ИИ для критически важных приложений». Посыл заключается в том, что ИИ-компаниям в США нельзя доверять работу без вмешательства со стороны американского правительства. Администрация Трампа не подтвердила, почему она применила свою директиву экспортного контроля. Неправильно ли чиновники прочитали доклад и запаниковали? Сказал ли генеральный директор Amazon Энди Джасси что-то высокопоставленным правительственным чиновникам, что спровоцировало реакцию из осторожности или из злобы? Что-то потерялось при переводе, или это был способ оказать давление на Anthropic, с которой у администрации и без того сложные отношения? Возможно, Белый дом не осознавал далеко идущих последствий требования письма, и чиновники сейчас пытаются исправить ущерб, нанесённый ими же.

Цитируя Хендрикса, «атмосфера такова, что облако подозрений о том, что высокопоставленные чиновники выбирают фаворитов на основе личных и политических факторов». Итогом стало то, что правительство установило опасный прецедент относительно того, насколько сильный контроль оно намерено осуществлять за выпуском программного обеспечения американского производства. На этот раз правительство предъявило претензии к Anthropic; завтра это может быть кто угодно другой.