Генпрокурор Калифорнии направил xAI Илона Маска предписание о прекращении создания сексуальных дипфейков

Ранее на этой неделе офис генерального прокурора Калифорнии объявил о расследовании в отношении компании xAI после сообщений о том, что её чат-бот Grok использовался для создания сексуальных изображений женщин и несовершеннолетних без их согласия. В пятницу власти пошли дальше, направив компании официальное предписание (cease-and-desist) с требованием немедленно прекратить производство недобровольных интимных изображений и материалов с сексуальной эксплуатацией детей (CSAM).

«Сегодня я направил xAI предписание, требуя от компании немедленно прекратить создание и распространение дипфейков, недобровольных интимных изображений и материалов с сексуальной эксплуатацией детей, — заявил генеральный прокурор Калифорнии Роб Бонта в пресс-релизе. — Создание такого материала является незаконным. Я полностью ожидаю, что xAI немедленно подчинится. В Калифорнии нулевая терпимость к [CSAM]».

В офисе генпрокурора также заявили, что xAI, по-видимому, «способствует крупномасштабному производству» недобровольных обнажённых изображений, которые затем «используются для преследования женщин и девочек по всему интернету». Агентство ожидает, что xAI в течение следующих пяти дней представит доказательства принятия мер для решения этих проблем.

В центре скандала оказалась функция Grok под названием «spicy mode» («острый режим»), которую xAI создала для генерации откровенного контента. Проблема вышла за пределы Калифорнии: Япония, Канада и Великобритания начали расследования в отношении Grok, а Малайзия и Индонезия временно полностью заблокировали платформу. Несмотря на то, что xAI ввела некоторые ограничения на свои функции редактирования изображений в среду, офис генпрокурора Калифорнии всё равно выдвинул официальное требование.

Аккаунт безопасности X ранее осуждал подобную активность пользователей, заявляя: «Любой, кто использует или запрашивает у Grok создание незаконного контента, понесёт те же последствия, как если бы он загрузил незаконный контент». Издание TechCrunch обратилось к xAI за комментарием и получило автоматический ответ «Legacy Media Lies» («Лгут устаревшие медиа»). Редакция также запросила дополнительные разъяснения у офиса генпрокурора Калифорнии.

Появление бесплатных генеративных ИИ-инструментов привело к тревожному росту количества недобровольного сексуального контента. С этой проблемой сталкиваются многие платформы, а не только X. Эта грязная деятельность привлекла внимание не только региональных лидеров, но и Конгресса США. Так, в четверг законодатели направили письмо руководителям нескольких компаний, включая X, Reddit, Snap, TikTok, Alphabet и Meta, с вопросом о том, как они планируют остановить распространение сексуализированных дипфейков.

ИИ: Ситуация с Grok наглядно демонстрирует извечную проблему мощных технологий: как только инструмент для создания контента становится общедоступным, часть пользователей немедленно начинает использовать его во вред другим. В 2026 году регулирование ИИ по-прежнему отстаёт от темпов его развития, и подобные скандалы, вероятно, будут лишь учащаться, вынуждая власти по всему миру принимать более жёсткие меры. Ответственность, безусловно, лежит и на создателях таких моделей, которым необходимо встраивать более эффективные защитные механизмы на этапе проектирования, а не постфактум.

* Meta, Facebook и Instagram запрещены в России.