Глава Anthropic ответил на слухи о поддержке запрета китайских ИИ-моделей

Глава Anthropic Дарио Амодеи ответил на слухи о том, что его компания поддерживает усилия правительства США по запрету китайских моделей с открытым весом. В понедельник днем он опубликовал заявление, в котором категорически опроверг эту информацию.

«Любой, кто читал мои прошлые работы, должен знать, что я не считаю такие запреты полезной мерой, но позвольте мне заявить об этом ясно, чтобы не осталось сомнений: Anthropic никогда не выступала за запрет моделей с открытым весом», — написал он, выделив эти слова.

Его ответ последовал после того, как глава Nvidia Дженсен Хуанг опубликовал в X (свой первый пост на платформе) открытое письмо, в котором Nvidia, а также множество других компаний в сфере ИИ, включая Hugging Face, Meta, Microsoft, Mistral, призвали политиков не вводить широких «преждевременных ограничений» на модели ИИ с открытым весом.

Хотя в письме не упоминался Китай, дискуссия в индустрии сосредоточена на утверждениях о том, что китайские лаборатории ИИ наращивают свои возможности, часто путем кражи интеллектуальной собственности у американских коллег. Один из методов — дистилляция, когда ИИ бомбардирует другую модель запросами, чтобы узнать, как она работает.

Амодеи заявил в блоге, опубликованном в понедельник, что он рассматривает модели с открытым весом как нечто иное, чем угроза со стороны Китая. «Модели с открытым весом, не обладающие опасными возможностями, являются общественным благом: они ничего не стоят, кроме вычислительных мощностей, необходимых для их работы, и приносят пользу бизнесу, разработчикам и исследователям».

Амодеи сказал в своем посте, что у него есть давние опасения по поводу ИИ, но использование бизнесом моделей с открытым весом, даже китайских, в их число не входит.

Его опасение заключается в том, что «авторитарные правительства» создадут модели, более мощные, чем в США, для достижения «постоянного военного превосходства» и/или использования ИИ для подавления собственного народа. Он заявил, что Коммунистическая партия Китая (КПК) — не единственное авторитарное правительство, которое его беспокоит, но оно является «самым способным».

Амодеи также сказал, что опасается, что ИИ позволит осуществлять «биологические атаки», а не только кибератаки. И, по его мнению, модели с открытым весом более опасны в таких сценариях, потому что к ним трудно применять ограничения или отслеживать их использование. Он также отметил, ссылаясь на отчет Британского института безопасности ИИ, что после выпуска модели с открытым весом их невозможно отозвать.

Это противоречит тому, что утверждают сторонники открытого исходного кода: доступ к мощным открытым моделям, не контролируемым одной организацией, помогает защитникам защищать себя.

Амодеи перечислил действия, которые, по его мнению, могли бы помешать Китаю, включая ограничение доступа к мощным чипам (что является давней политикой США) и призыв к формальным мерам против дистилляции. США пригрозили санкциями против Китая, если будет установлено, что имело место хищение интеллектуальной собственности с использованием американских моделей.

Интересно, что Амодеи также заявил, что поддерживает растущие усилия, некоторые из которых возглавляются США, по созданию организации по тестированию безопасности моделей, особенно если весь мир, включая Китай, согласится подчиниться этому.

«Я думаю, что эта идея на самом деле близка к консенсусу: я был ободрен как тем, что администрация Трампа в последние месяцы движется в этом направлении, так и недавними отраслевыми предложениями, которые применяли бы такое тестирование к наиболее способным моделям, независимо от страны их происхождения или от того, являются ли они открытыми или закрытыми (полностью освобождая от него менее способные модели, такие как модели стартапов и академических кругов)», — написал Амодеи.

«Обратите внимание, что для эффективности, — добавил он, — тестирование должно быть глобальным, а это означает, что даже КПК должна быть на борту. Я думаю, что это может быть возможно... ограниченное сотрудничество в области предотвращения биологического оружия на основе ИИ может быть возможным, потому что это также в интересах Китая».

* Meta, Facebook и Instagram запрещены в России.