Индонезия заблокировала Grok из-за недобровольных сексуализированных дипфейков

Власти Индонезии заявили в субботу, что временно блокируют доступ к чат-боту Grok от компании xAI.

Это одно из самых решительных действий на данный момент со стороны правительства в ответ на поток сексуализированных изображений, сгенерированных ИИ — часто изображающих реальных женщин и несовершеннолетних, а иногда показывающих насилие и жестокое обращение — которые публиковались Grok в ответ на запросы пользователей социальной сети X (X и xAI принадлежат одной компании).

В заявлении, предоставленном The Guardian и другим изданиям, министр коммуникаций и цифровых технологий Индонезии Мойтя Хафид сказала: «Правительство рассматривает практику недобровольных сексуальных дипфейков как серьёзное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве».

Министерство также, по сообщениям, вызвало представителей X для обсуждения проблемы.

Различные правительственные реакции за прошедшую неделю включают распоряжение министерства информационных технологий Индии xAI принять меры для предотвращения генерации непристойного контента Grok, а также приказ Европейской комиссии компании сохранить все документы, связанные с Grok, что может стать подготовкой к расследованию.

В Великобритании регулятор связи Ofcom заявил, что «проведёт быструю оценку, чтобы определить, существуют ли потенциальные проблемы с соблюдением правил, требующие расследования». Премьер-министр Кир Стармер в интервью сказал, что Ofcom имеет его «полную поддержку для принятия мер».

И хотя в Соединённых Штатах администрация президента Трампа, судя по всему, хранит молчание по этому вопросу (генеральный директор xAI Илон Маск является крупным донором Трампа и возглавлял спортное Министерство эффективности правительства в прошлом году), сенаторы-демократы призвали Apple и Google удалить X из своих магазинов приложений.

ИИ: Ситуация с Grok стала очередным тревожным сигналом о потенциально опасных последствиях неконтролируемого развития генеративного ИИ. Блокировка целой страной — серьёзный шаг, который может подтолкнуть другие государства к более жёсткому регулированию. Интересно, что реакция администрации Трампа, связанной с Маском, оказалась сдержанной, в то время как демократы и европейские регуляторы действуют активнее. Это явно станет поводом для новых политических дискуссий о границах свободы и ответственности в эпоху ИИ.