Илон Маск заявил, что не знает о создании Grok порнографических изображений несовершеннолетних, пока генпрокурор Калифорнии начал расследование

Илон Маск заявил, что «не знает о каких-либо голых изображениях несовершеннолетних, сгенерированных Grok», всего за несколько часов до того, как генеральный прокурор Калифорнии Роб Бонта объявил о начале расследования в отношении чат-бота xAI из-за «распространения несогласованных материалов сексуального характера».

Заявление Маска прозвучало на фоне растущего давления со стороны властей по всему миру. Пользователи X начали просить Grok превращать фотографии реальных женщин, а в некоторых случаях и детей, в сексуализированные изображения без их согласия. По оценкам платформы Copyleaks, на X публиковалось примерно одно такое изображение в минуту. Отдельная выборка данных с 5 на 6 января показала около 6700 изображений в час.

«Этот материал… использовался для преследования людей в интернете. Я призываю xAI немедленно принять меры, чтобы это не пошло дальше», — заявил генеральный прокурор Калифорнии Роб Бонта.

В офисе генпрокурора будут расследовать, нарушила ли xAI закон и каким образом. В США действуют несколько законов, защищающих жертв несогласованных интимных изображений и материалов о сексуальном насилии над детьми (CSAM).

Тенденция создания Grok сексуализированных фото женщин и детей набрала обороты в конце года. Согласно некоторым отчетам, xAI начала внедрять защитные меры. Теперь Grok требует премиальную подписку для выполнения определенных запросов на генерацию изображений, и даже в этом случае изображение может не быть создано.

Ни xAI, ни Маск публично не обратились к проблеме напрямую. Через несколько дней после первых инцидентов Маск, по-видимому, посмеялся над проблемой, попросив Grok сгенерировать изображение самого себя в бикини.

В своем посте Маск написал, что «не знает о каких-либо голых изображениях несовершеннолетних, сгенерированных Grok. Буквально ноль». Это заявление не отрицает существование фотографий в бикини или сексуализированных правок в более широком смысле.

«Очевидно, что Grok не спонтанно генерирует изображения. Он делает это только по запросу пользователя. Когда его просят сгенерировать изображения, он откажется создавать что-либо незаконное, поскольку основной принцип работы Grok — подчиняться законам любой страны или штата», — написал Маск.

Калифорния — не единственный регулятор, пытающийся привлечь xAI к ответственности. Индонезия и Малайзия временно заблокировали доступ к Grok; Индия потребовала от X немедленно внести технические и процедурные изменения в Grok; Европейская комиссия приказала xAI сохранить все документы, связанные с чат-ботом, а британский регулятор Ofcom начал формальное расследование.

xAI уже подвергалась критике за сексуализированные изображения от Grok ранее. Как отметил генпрокурор Бонта, Grok включает «острый режим» (spicy mode) для генерации откровенного контента. В октябре обновление упростило взлом немногочисленных защитных ограничений, что привело к созданию пользователями хардкорной порнографии, а также графичных и жестоких сексуальных изображений.