Глава робототехники OpenAI Кейтлин Калиновски уволилась из-за сделки с Пентагоном

Руководитель аппаратного отдела Кейтлин Калиновски объявила сегодня, что в ответ на спорное соглашение OpenAI с Министерством обороны США (Пентагоном) она ушла в отставку с поста главы команды по робототехнике компании.

«Это было непростое решение, — заявила Калиновски в публикации в социальной сети. — ИИ играет важную роль в национальной безопасности. Но слежка за американцами без судебного надзора и летальная автономность без санкции человека — это те границы, которые заслуживали более тщательного обсуждения, чем они получили».

Калиновски, ранее возглавлявшая команду по созданию очков дополненной реальности в Meta, присоединилась к OpenAI в ноябре 2024 года. В своём заявлении она подчеркнула, что решение было «принципиальным, а не личным» и выразила «глубокое уважение» к генеральному директору Сэму Альтману и команде OpenAI.

«Чтобы было ясно, моя проблема в том, что объявление было сделано второпях, без определения защитных механизмов. В первую очередь это вопрос управления. Эти вопросы слишком важны, чтобы торопиться со сделками или объявлениями», — добавила она в последующем посте на X.

Представитель OpenAI подтвердил уход Калиновски изданию TechCrunch.

«Мы считаем, что наше соглашение с Пентагоном создаёт работоспособный путь для ответственного использования ИИ в целях национальной безопасности, чётко обозначая наши красные линии: никакой внутренней слежки и никакого автономного оружия, — говорится в заявлении компании. — Мы признаём, что у людей есть сильные мнения по этим вопросам, и мы продолжим вести дискуссию с сотрудниками, правительством, гражданским обществом и сообществами по всему миру».

Соглашение OpenAI с Пентагоном было объявлено чуть более недели назад, после того как переговоры Пентагона с компанией Anthropic сорвались. Anthropic пыталась договориться о гарантиях, предотвращающих использование её технологий для массовой внутренней слежки или полностью автономного оружия. В ответ Пентагон признал Anthropic риском для цепочки поставок. (Anthropic заявила, что будет оспаривать это решение в суде; тем временем Microsoft, Google и Amazon заявили, что продолжат предоставлять доступ к их модели Claude невоенным клиентам.)

Затем OpenAI быстро объявила о собственном соглашении, позволяющем использовать её технологии в засекреченных средах. Пытаясь объяснить сделку в соцсетях, компания описала её как «более широкий, многоуровневый подход», который полагается не только на формулировки контракта, но и на технические средства защиты для соблюдения красных линий, схожих с теми, что предлагала Anthropic.

Тем не менее, скандал, по-видимому, нанёс ущерб репутации OpenAI среди некоторых потребителей: количество удалений ChatGPT резко выросло на 295%, а Claude взлетел на вершину чартов App Store. По состоянию на вечер субботы (по московскому времени) Claude и ChatGPT остаются первым и вторым по популярности бесплатными приложениями в американском App Store соответственно.

ИИ: Уход ключевого руководителя на фоне этических разногласий — серьёзный сигнал для OpenAI и всей индустрии. Это показывает, что даже в погоне за контрактами и влиянием компании сталкиваются с внутренним сопротивлением, когда дело касается фундаментальных вопросов применения технологий. Ситуация также демонстрирует растущую поляризацию в подходе ведущих игроков ИИ к сотрудничеству с военными.

* Meta, Facebook и Instagram запрещены в России.