Глава Anthropic обвинил OpenAI во лжи по поводу контракта с Пентагоном

Сооснователь и генеральный директор Anthropic Дарио Амодеи резко раскритиковал своего коллегу из OpenAI Сэма Альтмана. Как сообщает The Information, в служебной записке для сотрудников Амодеи назвал сделку OpenAI с Министерством обороны США «театром безопасности».

«Главная причина, по которой [OpenAI] приняла [предложение Минобороны], а мы — нет, заключается в том, что они заботились о том, чтобы успокоить сотрудников, а мы на самом деле заботились о предотвращении злоупотреблений», — написал Амодеи.

На прошлой неделе Anthropic и Министерство обороны США не смогли прийти к соглашению по запросу военных о неограниченном доступе к технологиям ИИ компании. Anthropic, у которой уже был контракт с военными на 200 миллионов долларов (~16 млрд рублей), настаивала на том, чтобы Пентагон подтвердил, что не будет использовать её ИИ для массовой внутренней слежки или создания автономного оружия.

Вместо этого Минобороны — известное при администрации президента Трампа как «Военное ведомство» (Department of War) — заключило сделку с OpenAI. Альтман заявил, что новый оборонный контракт его компании будет включать защиту от тех же «красных линий», на которых настаивала Anthropic.

В письме сотрудникам Амодеи называет заявления OpenAI «откровенной ложью», утверждая, что Альтман ложно «позиционирует себя как миротворец и устроитель сделок».

Возможно, Амодеи говорит не только из чувства обиды. Anthropic особенно возражала против настойчивого требования Минобороны, чтобы её ИИ был доступен для «любого законного использования». OpenAI же в записи блога заявила, что её контракт разрешает использование систем ИИ для «всех законных целей».

«В ходе нашего взаимодействия стало ясно, что Военное ведомство считает массовую внутреннюю слежку незаконной и не планирует использовать её для этой цели, — говорится в блоге OpenAI. — Мы позаботились о том, чтобы в нашем контракте было явно указано, что это не подпадает под законное использование».

Критики отмечают, что законы могут меняться, и то, что сейчас считается незаконным, в будущем может быть разрешено.

И, судя по всему, общественность на стороне Anthropic. Количество удалений ChatGPT выросло на 295% после того, как OpenAI заключила сделку с Пентагоном.

«Думаю, эта попытка манипуляции/газлайтинга не очень хорошо работает на широкую публику или в СМИ, где люди в основном считают сделку OpenAI с Военным ведомством сомнительной или подозрительной, а нас видят героями (мы сейчас на втором месте в App Store!). — написал Амодеи своим сотрудникам. — Это работает на некоторых идиотах в Twitter, что не имеет значения, но меня больше всего беспокоит, как убедиться, что это не сработает на сотрудниках OpenAI».