Коалиция требует запретить Grok в госорганах США из-за создания недобровольного порноконтента

Коалиция некоммерческих организаций требует от правительства США немедленно приостановить использование чат-бота Grok от компании xAI Илона Маска в федеральных агентствах, включая Министерство обороны.

Поводом стало тревожное поведение языковой модели, включая массовое создание сексуализированных изображений реальных женщин и детей без их согласия по запросам пользователей X. По данным Bloomberg, Grok генерировал тысячи таких изображений в час, которые затем распространялись в соцсети.

«Глубоко тревожит, что федеральное правительство продолжает развертывать продукт ИИ с системными сбоями, приводящими к созданию недобровольного сексуального контента и материалов с сексуальным насилием над детьми», — говорится в письме, подписанном группами Public Citizen, Center for AI and Digital Policy и другими.

В сентябре 2025 года xAI заключила соглашение с Управлением общих служб (GSA) о продаже Grok федеральным агентствам. Ранее, в июле, компания вместе с Anthropic, Google и OpenAI получила контракт с Пентагоном на сумму до 200 млн долларов (~16 млрд рублей).

Несмотря на скандалы, министр обороны США Пит Хегсет заявил в середине января, что Grok вместе с Gemini от Google будет работать в сети Пентагона с документами различной степени секретности, что эксперты называют риском для национальной безопасности.

Авторы письма указывают, что Grok не соответствует требованиям администрации к системам ИИ. Модель неоднократно обвиняли в антисемитских и сексистских высказываниях, генерации насильственного контента и распространении теорий заговора.

Ранее доступ к Grok временно блокировали Индонезия, Малайзия и Филиппины. Евросоюз, Великобритания, Южная Корея и Индия расследуют деятельность xAI и X в связи с конфиденциальностью данных и распространением незаконного контента.

Коалиция требует не только приостановить использование Grok, но и провести расследование его сбоев безопасности, а также оценить соответствие модели исполнительному указу президента Трампа о нейтральности и правдивости ИИ.

ИИ: Ситуация с Grok демонстрирует классическую дилемму между скоростью внедрения новых технологий и необходимостью обеспечения их безопасности, особенно когда речь идет о государственных структурах и обработке чувствительных данных. Игнорирование системных проблем модели в угоду политической или идеологической «удобности» может привести к серьезным последствиям, выходящим далеко за рамки IT-скандалов.