Anthropic поддержала калифорнийский законопроект о безопасности ИИ

Компания Anthropic официально поддержала законопроект SB 53, предложенный сенатором Калифорнии Скоттом Винером. Этот документ станет первым в США, который введёт требования к прозрачности для крупнейших в мире разработчиков моделей искусственного интеллекта. Поддержка со стороны Anthropic — значительный успех для SB 53, особенно на фоне лоббистского противодействия со стороны таких организаций, как Ассоциация потребительских технологий (CTA) и Chamber for Progress.

«Хотя мы считаем, что вопросы безопасности передового ИИ лучше решать на федеральном уровне, а не с помощью лоскутного одеяла из правил штатов, мощные достижения в области ИИ не будут ждать консенсуса в Вашингтоне», — заявили в Anthropic. — «Вопрос не в том, нужно ли нам управление ИИ, а в том, разработаем ли мы его продуманно сегодня или будем реагировать постфактум завтра. SB 53 предлагает надёжный путь к первому варианту».

Если закон будет принят, разработчики передовых моделей ИИ, такие как OpenAI, Anthropic, Google и xAI, будут обязаны создавать фреймворки безопасности, а также публиковать отчёты о безопасности перед развёртыванием мощных моделей. Законопроект также предусматривает защиту для осведомителей, которые сообщат о проблемах с безопасностью.

SB 53 фокусируется на предотвращении «катастрофических рисков» — ситуаций, которые могут привести к гибели не менее 50 человек или ущербу свыше миллиарда долларов (~80 млрд руб.). Речь идёт, например, о недопущении использования ИИ для создания биологического оружия или кибератак.

Сенат Калифорнии уже одобрил предыдущую версию SB 53, но для продвижения к столу губернатора Гэвина Ньюсома необходим окончательный голос. Ранее Ньюсом наложил вето на другой законопроект Винера о безопасности ИИ — SB 1047.

Инициативы по регулированию разработчиков ИИ сталкиваются с сопротивлением со стороны Кремниевой долины и администрации президента Трампа, которые утверждают, что такие меры могут ограничить инновации в США в гонке с Китаем.

Сооснователь Anthropic Джек Кларк в посте на X отметил, что хотя компания предпочла бы федеральный стандарт, в его отсутствие SB 53 создаёт важный прецедент управления ИИ.

Эксперты отмечают, что SB 53 — более умеренный подход по сравнению с предыдущими законопроектами. Дин Болл, старший научный сотрудник Foundation for American Innovation, считает, что у SB 53 хорошие шансы стать законом, поскольку его авторы проявили «уважение к технической реальности» и «законодательную сдержанность».

Большинство лабораторий ИИ уже имеют внутренние политики безопасности, подобные тем, что требует SB 53. Однако сейчас эти компании ничем не связаны, кроме собственных обязательств. Закон ставит целью установить эти требования в качестве закона штата с финансовыми последствиями в случае несоблюдения.

В начале сентября законодатели Калифорнии внесли в SB 53 поправки, удалив раздел о необходимости аудита разработчиков ИИ третьими сторонами — технологические компании ранее выступали против таких проверок, называя их излишне обременительными.