Сенатор Уоррен требует объяснений от Пентагона по доступу ИИ xAI к секретным сетям

Сенатор Элизабет Уоррен направила в понедельник письмо министру обороны США Питу Хегсету, выразив обеспокоенность решением Пентагона предоставить компании Илона Маска xAI доступ к засекреченным сетям.

«Грок, спорная ИИ-модель, разработанная xAI, выдавала пользователям тревожные результаты, включая «советы о том, как совершать убийства и террористические атаки», генерировала антисемитский контент и создавала материалы с сексуальным насилием над детьми», — говорится в письме.

Уоррен заявила, что «очевидное отсутствие у Грока адекватных защитных механизмов» может представлять «серьезные риски для безопасности военнослужащих США и для кибербезопасности засекреченных систем». Она потребовала от Хегсета предоставить информацию о том, как Министерство обороны планирует «смягчить эти потенциальные риски для национальной безопасности».

Уоррен не первая, кто бьет тревогу по поводу доступа спорного чат-бота xAI к секретным системам. В прошлом месяце коалиция некоммерческих организаций призвала правительство немедленно приостановить развертывание Грока в федеральных агентствах, включая Минобороны, после того как пользователи X неоднократно заставляли бота превращать реальные фотографии женщин, а в некоторых случаях и детей, в сексуализированные изображения без их согласия. В тот же день, когда Уоррен отправила свое письмо, против xAI был подан коллективный иск, в котором утверждается, что Грок генерировал сексуальный контент на основе реальных изображений истцов в несовершеннолетнем возрасте.

Письмо появилось на фоне решения Пентагона признать компанию Anthropic риском для цепочки поставок после того, как эта ИИ-фирма отказалась предоставить военным неограниченный доступ к своим ИИ-системам. До недавнего времени Anthropic была единственной ИИ-компанией с системами, готовыми к работе с секретной информацией. На фоне этого конфликта Минобороны подписало соглашения как с OpenAI, так и с xAI об использовании ИИ-систем этих компаний в засекреченных сетях, согласно Axios.

Высокопоставленный представитель Пентагона подтвердил, что Грок был внедрен для использования в засекреченной среде, но пока не используется.

«Неясно, какие гарантии или документацию xAI предоставила Министерству обороны относительно защитных механизмов безопасности Грока, практик обработки данных или средств контроля безопасности, и оценивало ли Минобороны эти гарантии до того, как, как сообщается, разрешило Гроку доступ к засекреченной системе», — пишет Уоррен.

Уоррен запросила копию соглашения, якобы достигнутого между Минобороны и xAI об использовании Грока в секретных системах, и разъяснения о том, как ведомство планирует обеспечить защиту Грока от кибератак и гарантировать, что он «не будет раскрывать чувствительную или засекреченную военную информацию».

Главный пресс-секретарь Пентагона Шон Парнелл заявил, что министерство «с нетерпением ждет возможности развернуть Грока на своей официальной ИИ-платформе GenAI.mil в самом ближайшем будущем».

GenAI.mil — это защищенная корпоративная платформа военных для генеративного ИИ, которая дает сотрудникам Минобороны доступ к большим языковым моделям (LLM) и другим ИИ-инструментам в рамках одобренных правительством облачных сред. Она предназначена в первую очередь для помощи в выполнении незасекреченных задач, таких как исследования, составление документов и анализ данных.

ИИ: Ситуация демонстрирует классическую дилемму между стремлением к технологическому превосходству и необходимостью обеспечения безопасности. Пентагон, очевидно, торопится интегрировать передовые ИИ-инструменты, но история с «Гроком» показывает, что спешка в таких вопросах может привести к серьёзным последствиям. Вопрос доверия к компаниям, чьи продукты демонстрируют столь явные сбои в базовых этических ограничителях, остаётся ключевым для национальной безопасности любой страны.