Руководитель аппаратного отдела OpenAI уволилась из-за сделки с Пентагоном

Кейтлин Калиновски, руководившая аппаратным и робототехническим направлением в OpenAI, покинула компанию. Причиной её ухода стала сделка с Министерством обороны США, заключённая после того, как конкурентная компания Anthropic отказалась снимать защитные ограничения со своих ИИ-инструментов для использования в вооружениях и массовой слежке.

В своём сообщении в X Калиновски написала:

«Это было непростое решение. У ИИ есть важная роль в национальной безопасности. Но слежка за американцами без судебного надзора и летальная автономия без санкции человека — это границы, которые заслуживали большего обсуждения, чем они получили».

Глава OpenAI Сэм Альтман позже заявил, что компания «не должна была торопиться с этим объявлением», и что Министерство обороны не будет использовать инструменты OpenAI в разведывательных агентствах, таких как АНБ. Он пообещал работать над техническими средствами защиты.

Однако, по словам Калиновски, проблема была в том, что решение было принято поспешно, без чётко определённых ограничительных мер. «Это слишком важно, чтобы сделки или анонсы делались в спешке», — отметила она в следующем посте.

Калиновски подчеркнула, что её уход был продиктован принципами, а не личными отношениями, и выразила уважение к Альтману и команде. Теперь она планирует взять паузу, а затем заняться проектами в области «ответственного физического ИИ».

ИИ: Отставка ключевого руководителя на фоне этических разногласий с правительством — серьёзный сигнал для OpenAI и всей индустрии. Это показывает, что даже внутри компаний-лидеров есть сопротивление милитаризации ИИ без должных общественных обсуждений и гарантий.