Anthropic подаёт в суд на правительство США за попытку заставить отказаться от этических ограничений ИИ

Компания Anthropic, создатель ИИ Claude, подала иск к правительству США после того, как Министерство обороны (Пентагон) пригрозило внести её в «чёрный список» поставщиков. Причиной конфликта стал отказ Anthropic удалить из условий использования ИИ два ключевых этических ограничения: запрет на применение технологии в летальных автономных вооружениях и в массовой слежке за американцами.

Как сообщается в иске, поданном 9 марта, Пентагон потребовал от компании снять эти ограничения в рамках контракта на поставку ИИ. После отказа контракт был расторгнут и передан OpenAI. Впоследствии правительство пригрозило признать Anthropic «риском для цепочки поставок» — ярлыком, который обычно применяется к иностранным противникам США.

Генеральный директор Anthropic Дарио Амодеи заявил: «Они угрожали удалить нас из своих систем, если мы сохраним эти гарантии... Это беспрецедентно для американской компании». В компании утверждают, что действия правительства являются нарушением Первой и Пятой поправок к Конституции США, карающими компанию за выражение её этических принципов.

В поддержку позиции Anthropic выступили её конкуренты — Google и OpenAI. Обе компании подписали «amicus brief» (дружеское послание суду), в котором предупреждают, что действия правительства нанесут ущерб конкурентоспособности США в области ИИ и «охладят открытые дискуссии» о рисках и преимуществах этой технологии.

Эксперты в области права, такие как соучредитель академии AI, Tech and Privacy Луиза Яровски, считают, что у Anthropic хорошие шансы на победу в суде, что может создать важный прецедент в области регулирования ИИ в США. Слушания по делу могут начаться уже в эту пятницу.

Этот судебный процесс стал кульминацией растущего напряжения между технологическими гигантами, разрабатывающими передовой ИИ, и правительственными органами, стремящимися использовать эти технологии в военных и разведывательных целях. Ранее OpenAI также столкнулась с внутренними разногласиями и отставками после заключения контракта с Пентагоном.