Правительство США берет под контроль выпуск ИИ-моделей: OpenAI и Anthropic в одной лодке

Правительство США собирается взять под жесткий контроль выпуск новых моделей искусственного интеллекта. Спустя две недели после того, как американские власти отозвали модели Fable и Mythos от компании Anthropic, новая модель OpenAI, похоже, ожидает та же участь. Издание The Information сообщило в четверг, что GPT 5.6 будет выпущена только в ограниченный предварительный доступ, причем правительство будет одобрять выпуск «для каждого клиента отдельно» до тех пор, пока не будет разрешен общий релиз.

Если этот предварительный доступ продлится всего «пару недель», как, по слухам, прогнозирует Сэм Альтман, это может быть не такой уж большой проблемой. Но Mythos уже находится в предварительном доступе несколько месяцев, и нет никаких признаков того, что он выйдет в общий доступ в ближайшее время. Даже несколько недель, потраченных на проверку, могут существенно ограничить экономическую выгоду от дорогостоящей новой системы, особенно в то время, когда AI-лаборатории отчаянно пытаются улучшить свои финансовые показатели. Если темпы разработки моделей в результате замедлятся, это, скорее всего, окажет аналогичное охлаждающее воздействие на продолжающееся строительство дата-центров.

Если все пойдет плохо, под угрозой может оказаться вся индустрия.

Критически важно, что OpenAI и Anthropic теперь находятся в абсолютно одинаковом положении, сталкиваясь с одними и теми же проблемами и одной и той же катастрофой в случае неудачи. Разговоры в технологической индустрии часто фокусируются на роли той или иной стороны в возникновении этой ситуации: одни обвиняют Anthropic в схеме «захвата регулятора», другие — OpenAI в заигрывании с президентом Трампом, чтобы устранить конкурента. Это понятно; многие из самых влиятельных людей в индустрии имеют на кону миллиарды долларов, поставленные на ту или иную компанию.

Но то, что происходит сейчас, гораздо масштабнее. Очевидны издержки внедрения поспешного правительственного процесса утверждения для каждой передовой модели, и не существует решения, которое помогло бы одной лаборатории, не помогая другим.

Самая насущная проблема — просто создать внятный процесс выпуска моделей. Правительство может тестировать модели перед выпуском (так работает со многими потребительскими товарами) — но, как подробно описал в своем красноречивом посте этим утром научный сотрудник GMU (и будущий сотрудник OpenAI) Дин Болл, неясно, какие гарантии безопасности можно внедрить, чтобы удовлетворить регуляторов. У правительства США нет ни опыта, ни возможностей для того вида тестирования, который здесь потребуется. Даже неясно, от чего именно регуляторы пытаются защитить, поскольку не было предпринято никаких усилий, чтобы сформулировать, какие риски правительство на самом деле беспокоят.

Заманчиво видеть правительственный процесс как саму проблему, но за этим стоят реальные опасения. Даже если вы не верите в шумиху вокруг Mythos, есть очевидные доказательства того, как инструменты ИИ революционизируют кибербезопасность. Аналогичные процессы происходят в области биорисков и выравнивания. Ограничение выпуска моделей не может быть единственным ответом — это лишь ограничит то, что доступно публике, — но есть реальные проблемы, которые необходимо решать.

Лучшие идеи для их решения, изложенные Боллом, будут означать совместную работу. Это будет означать доверие независимым группам в руководстве процессом, даже если они не полностью совпадают с вашими целями. Это будет означать поддержку наименее плохих из доступных вариантов регулирования, вместо того чтобы бороться с каждым правилом до последнего. И самое главное, это будет означать борьбу за ИИ как за индустрию, вместо того чтобы рассматривать безопасность и регулирование как возможность получить преимущество.

Для многих людей, работающих в сфере ИИ, это будет трудным решением. К сожалению, модели ИИ достигли того уровня, когда их возможности имеют реальные политические последствия. Решение этих последствий потребует коллективных действий. В ближайшие недели мы узнаем, способна ли на это индустрия.