Безопасность ИИ или контроль: индустрия спорит о том, кому писать правила

В последние недели в технологической индустрии разгорелась дискуссия о том, как подходить к теме безопасности ИИ. Поводом стали громкие заявления руководителей крупнейших лабораторий и инциденты вроде случая с Hugging Face, когда агент OpenAI взломал несколько компаний.

Глава Anthropic Дарио Амодеи опубликовал эссе почти на 4000 слов, в котором обосновал необходимость замедления развития ИИ ради внедрения адекватных защитных механизмов. Его план включает международное сотрудничество компаний и правительств по безопасному развёртыванию технологий. Инициативу поддержали Сэм Альтман из OpenAI и Илон Маск из xAI.

Однако не все согласны с призывом к глобально скоординированным действиям. Многие считают, что государственный надзор вовсе не обязателен.

Глава Meta Марк Цукерберг в соцсети X заявил, что доверие и выравнивание (alignment) быстро становятся важнейшими характеристиками, отличающими агентов и модели. По его словам, Meta отложила выпуск своей модели Muse на несколько месяцев ради безопасности. «Мы не призывали всех остальных делать это раньше нас. Мы просто сделали это в рамках повседневной работы, потому что это явно правильно и для людей, и для нас», — сказал Цукерберг.

Цукерберг, поддержавший часть плана Амодеи, дал понять, что государственное вмешательство не нужно: рыночные стимулы сами заставят компании обеспечить безопасность. Это перекликается с его собственным эссе, где он выступал за ограниченное сотрудничество с правительством, делая ставку на американскую конкурентоспособность.

Сооснователь Reddit Алексис Оганян в интервью CNBC заявил, что индустрия была «глуха» к объяснению рисков ИИ публике, но тоже выразил надежду, что компании разберутся сами. Сооснователь Google DeepMind Шейн Легг отметил: «Возможности развиваются очень быстро, но мы не можем позволить им опережать безопасность».

Несмотря на призывы к сотрудничеству государства и бизнеса, часть сторонников регулирования довольствуется тем, что правила пишут сами компании. На этой неделе The Information сообщила, что OpenAI, Anthropic и другие крупные игроки работают над созданием организации по стандартам ИИ — по сути, частного «саморегулирующего органа».

Ранее обсуждалось создание аналогичной структуры под управлением государства, но администрация Трампа, включающая ярых сторонников ИИ, продвигает нерегулируемый технологический бизнес и даже пыталась запретить штатам принимать собственные законы об ИИ. «ИИ-царь» Дэвид Сакс заявил, что регулирование следует оставить компаниям-разработчикам.

Конгресс тоже не проявляет интереса. Спикер Палаты представителей Майк Джонсон на опасения о катастрофическом развитии ИИ ответил: «Вы все не умрёте через 10 лет».

Частная организация оставит индустрию нерегулируемой, кроме добровольных обязательств, и наделит властью компании, её создавшие. Отсюда ещё одно утверждение: призывы к регулированию — это стратегия «захвата регулирования». По этому аргументу влиятельные компании могут использовать стандарты, чтобы вытеснить менее ресурсных конкурентов.

С этим согласны и в Китае. После призыва Амодеи «замедлить фронтир» представитель МИД КНР Го Цзякунь обвинил американцев в «нагнетании страха», а государственная газета сравнила риторику с «холодновоенной шпаргалкой».

Амодеи и сам признаёт, что перестройка работы с Китаем — одна из его целей: «Если мы хорошо выполним эти меры, они замедлят прогресс Китая достаточно, чтобы значительно расширить лидерство Америки в ближайшие 3–5 лет».

Глава канадской Cohere Эйдан Гомес обвинил американские лаборатории в создании «картеля»: «ИИ нужны ограничители. Спор не в этом и никогда не был. Спор о том, кто пишет правила, кто участвует и чьи интересы они защищают».

Как отмечает Гомес, сфера безопасности ИИ глубоко политизирована: то, как и кем определяются критерии безопасности, в итоге решит, кто получит преимущество, а кто останется позади на следующем этапе конкуренции в области ИИ.

* Meta, Facebook и Instagram запрещены в России.