Администрация Трампа рассматривает обязательную проверку ИИ-моделей перед релизом — модель Mythos от Anthropic названа катализатором смены курса

По данным The New York Times, администрация президента США Дональда Трампа обсуждает издание указа, который введёт обязательную государственную проверку новых моделей искусственного интеллекта перед их публичным релизом.

Изображение: Microsoft

Предполагаемый указ предусматривает создание «рабочей группы по ИИ» из представителей технологических компаний и правительственных чиновников для разработки процедур надзора. На прошлой неделе сотрудники Белого дома уже провели брифинги с руководителями Anthropic, Google и OpenAI. Если эти обсуждения подтвердятся, это будет означать резкий разворот от текущей политики администрации, которая позиционировала себя как сторонник дерегуляции. Напомним, что сразу после вступления в должность администрация Трампа отменила указ эпохи Байдена, касающийся рисков ИИ.

Внезапный разворот совпадает с вакуумом в руководстве политикой Белого дома в области ИИ. Дэвид Сакс, который возглавлял дерегуляцию в качестве «царя по ИИ», покинул свой пост в марте. С тех пор, по данным The New York Times, более активную роль в формировании политики в области ИИ взяли на себя глава аппарата Белого дома Сьюзи Уайлс и министр финансов Скотт Бессент.

Новый подход очень напоминает модель британского Института безопасности ИИ, где правительственные органы оценивают передовые модели на соответствие стандартам безопасности до и после развёртывания. Чиновники сообщили The New York Times, что проверку могут курировать АНБ, Офис национального директора по кибербезопасности и Директор национальной разведки. Критически важно, что система предоставит правительству ранний доступ к моделям, не блокируя их релиз.

Неудивительно, что катализатором всех этих событий, по-видимому, стала модель Mythos от компании Anthropic. В маркетинговых материалах компания описывала её как способную находить тысячи критических уязвимостей в программном обеспечении и слишком опасную для публичного релиза.

Это, естественно, привлекло нежелательное внимание правительства в то время, когда администрация Трампа уже находится в конфликте с Anthropic из-за разорванного контракта с Пентагоном на $200 млн (~16 млрд рублей). Пентагон признал Anthropic риском для цепочки поставок после того, как компания отказалась снимать ограничения на использование своих моделей в автономном оружии и массовой слежке, хотя федеральный судья позже назвал это решение «оруэлловским».

АНБ уже использовало Mythos для оценки уязвимостей в правительственных развёртываниях программного обеспечения Microsoft, в то время как другие агентства остаются отрезанными от инструментов Anthropic. Некоторые аналитики ставят под сомнение, оправдывают ли возможности Mythos столь драматичную подачу со стороны Anthropic, отмечая, что более дешёвые модели могут достигать сопоставимых результатов в поиске уязвимостей.

Представитель Белого дома заявил The New York Times, что разговоры об указе являются «спекуляцией», и любое объявление будет сделано лично Трампом. Дин Болл, бывший старший советник по ИИ в администрации Трампа, сказал изданию, что чиновники пытаются избежать чрезмерного регулирования, не отставая от развития технологий, назвав это «сложным балансом».

Источник: Tomshardware.com