Конфликт Anthropic и Пентагона: кто контролирует военное применение ИИ?

Последние две недели ознаменовались публичным противостоянием между генеральным директором Anthropic Дарио Амодеи и министром обороны США Питом Хегсетом по вопросу использования военными искусственного интеллекта.

Anthropic отказывается разрешить применение своих ИИ-моделей для массовой слежки за американцами или для создания полностью автономных систем вооружения, способных наносить удары без участия человека. В то же время министр Хегсет заявляет, что Министерство обороны не должно ограничиваться правилами поставщика, и любое «законное использование» технологии должно быть разрешено.

В четверг Амодеи публично дал понять, что Anthropic не отступает, несмотря на угрозы признать компанию риском для цепочки поставок. Суть конфликта — в вопросе о том, кто контролирует мощные ИИ-системы: компании, которые их создают, или правительство, которое хочет их развернуть.

Anthropic опасается, что её модели могут быть использованы для создания автономного оружия, способного на ошибки с летальными последствиями, или для беспрецедентной по масштабам автоматизированной слежки за гражданами. В Пентагоне настаивают на праве применять технологию для любых законных целей и не позволять компании диктовать условия.

Представитель Пентагона Шон Парнелл в сообщении в X заявил: «Вот чего мы просим: позволить Пентагону использовать модель Anthropic для всех законных целей». Он добавил, что у Anthropic есть время до 5:01 вечера по восточному времени в пятницу (1:01 ночи по московскому времени в субботу, 1 марта), чтобы принять решение, иначе партнёрство будет разорвано, а компания признана риском.

Эксперты отмечают, что для Anthropic статус «риска для цепочки поставок» может стать катастрофой. Однако, если Пентагон откажется от её моделей, это создаст пробел в национальной безопасности, так как другим компаниям, таким как OpenAI или xAI, потребуется время, чтобы догнать Anthropic. При этом xAI, судя по риторике её владельца Илона Маска, вероятно, предоставит военным полный контроль над своей технологией.

Конфликт вышел за рамки технических разногласий. В своей речи в январе Хегсет критиковал «прогрессивный ИИ», заявив: «ИИ Министерства обороны не будет "проснувшимся". Мы создаём боевое оружие и системы, а не чат-ботов для преподавательской гостиной Лиги плюща».