Глава Anthropic отказал Пентагону в неограниченном доступе к ИИ

Генеральный директор Anthropic Дарио Амодеи заявил в четверг, что «не может по совести согласиться на [просьбу Пентагона]» предоставить военным неограниченный доступ к системам искусственного интеллекта компании.

«Anthropic понимает, что военные решения принимает Министерство обороны, а не частные компании, — написал Амодеи в заявлении. — Однако в узком наборе случаев мы считаем, что ИИ может подрывать, а не защищать демократические ценности. Некоторые применения также просто выходят за рамки того, что современные технологии могут делать безопасно и надежно».

Речь идет о двух случаях: массовой слежке за американцами и полностью автономном оружии без участия человека в процессе принятия решений. Пентагон считает, что должен иметь возможность использовать модель Anthropic для всех законных целей, и что его применение не должно диктоваться частной компанией.

Заявление Амодеи прозвучало менее чем за 24 часа до дедлайна, который установил министр обороны США Пит Хегсет: до 17:01 по местному времени в пятницу (в 01:01 по московскому времени в субботу, 28 февраля) Anthropic должна либо подчиниться требованиям, либо столкнуться с последствиями. Министерство обороны пыталось оказать давление, угрожая либо признать Anthropic риском для цепочки поставок (статус, обычно зарезервированный для иностранных противников), либо применить Закон о производстве в целях обороны, что фактически заставило бы компанию выполнять его приказы. Этот закон дает президенту право заставлять компании отдавать приоритет или расширять производство для нужд национальной обороны.

Амодеи указал на противоречие в этих двух угрозах.

«Одна помечает нас как угрозу безопасности; другая — называет Claude важным для национальной безопасности».

Он добавил, что министерство имеет право выбирать подрядчиков, наиболее соответствующих его видению,

«но учитывая значительную ценность, которую технология Anthropic предоставляет нашим вооруженным силам, мы надеемся, что они пересмотрят свое решение».

Anthropic в настоящее время является единственной передовой лабораторией ИИ, чьи системы готовы для работы с классифицированной информацией для военных, хотя, по сообщениям, Министерство обороны также готовит к этой роли xAI.

«Мы очень хотели бы продолжать служить Министерству и нашим военнослужащим — при условии соблюдения двух запрошенных нами гарантий, — сказал Амодеи. — Если Министерство решит отказаться от услуг Anthropic, мы будем работать над обеспечением плавного перехода к другому поставщику, избегая сбоев в текущем военном планировании, операциях или других критических миссиях».

Если кратко, он говорит: «Мы можем просто разойтись. Нет нужды делать это грубо».

ИИ: Этот конфликт между ведущей компанией в области ИИ и Пентагоном поднимает фундаментальные вопросы об этических границах технологий и роли частного сектора в вопросах национальной безопасности. Позиция Амодеи, особенно в условиях давления, выглядит принципиальной и может задать важный прецедент для всей индустрии.