Индонезия и Малайзия заблокировали доступ к Grok из-за недобросовестных дипфейков

Власти Индонезии и Малайзии объявили о временной блокировке доступа к чат-боту Grok от компании xAI. Это самые решительные меры со стороны правительств в ответ на поток созданных искусственным интеллектом сексуализированных изображений, которые публиковались Grok в ответ на запросы пользователей социальной сети X (X и xAI принадлежат одной компании). Часто на этих изображениях фигурируют реальные женщины и несовершеннолетние, а иногда они изображают насилие.

В заявлении, распространённом в субботу, министр коммуникаций и цифровых технологий Индонезии Мойтя Хафид заявила: «Правительство рассматривает практику создания недобровольных сексуальных дипфейков как серьёзное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве». Министерство также вызвало представителей X для обсуждения проблемы.

Правительство Малайзии объявило о схожем запрете в воскресенье.

Различные правительственные реакции за прошедшую неделю также включают требование министерства информационных технологий Индии к xAI принять меры для предотвращения генерации непристойного контентом Grok, а также распоряжение Европейской комиссии компании сохранить все документы, связанные с Grok, что потенциально может стать началом расследования.

В Великобритании регулятор связи Ofcom заявил, что проведёт «быструю оценку, чтобы определить, есть ли потенциальные проблемы с соблюдением правил, требующие расследования». Премьер-министр Кир Стармер в интервью заявил, что Ofcom имеет его «полную поддержку для принятия мер».

В то время как администрация президента США Дональда Трампа, похоже, хранит молчание по этому вопросу (генеральный директор xAI Илон Маск является крупным донором Трампа и в прошлом году возглавлял спорное Министерство эффективности правительства), сенаторы-демократы призвали Apple и Google удалить X из своих магазинов приложений.

xAI изначально отреагировала, разместив от лица аккаунта Grok, казалось бы, личные извинения, признав, что публикация «нарушила этические стандарты и потенциально законы США», касающиеся материалов о сексуальном насилии над детьми. Позже компания ограничила функцию генерации изображений ИИ платными подписчиками в X, хотя это ограничение, по-видимому, не затронуло само приложение Grok, которое по-прежнему позволяло любому пользователю генерировать изображения.

В ответ на пост, в котором задавался вопрос, почему правительство Великобритании не принимает меры против других инструментов генерации изображений ИИ, Маск написал: «Им нужен любой предлог для цензуры».