Евросоюз расследует X и Grok из-за рисков, связанных с генерацией сексуальных дипфейков

Европейская комиссия объявила о начале нового формального расследования в отношении социальной сети X (бывший Twitter) и её инструмента генеративного ИИ Grok. Расследование проводится в рамках Закона о цифровых услугах (Digital Services Act, DSA) и направлено на выяснение, адекватно ли компания оценила и смягчила риски, связанные с интеграцией Grok в платформу, особенно в части распространения незаконного контента.

Поводом для проверки стали инциденты в декабре 2025 года, когда пользователи могли генерировать с помощью Grok манипулированные сексуально откровенные изображения, включая контент, который может считаться материалами о сексуальном насилии над детьми. Пользователи могли запрашивать такие изображения, просто отмечая аккаунт Grok. Позже функция генерации изображений была ограничена только для подписчиков, а затем были введены меры по запрету на редактирование изображений реальных людей в откровенной одежде.

Комиссия будет проверять, выполнила ли X свои обязательства по DSA, включая тщательную оценку системных рисков и проведение специального отчёта об оценке рисков для функций Grok до их внедрения. В рамках расследования комиссия запросит доказательства у X, проведёт интервью и проверит меры предосторожности, принятые командами безопасности платформы.

Исполнительный вице-президент Европейской комиссии по вопросам технологического суверенитета, безопасности и демократии Хенна Вирккунен заявила: «Сексуальные дипфейки женщин и детей — это насильственная, неприемлемая форма унижения. В ходе этого расследования мы определим, выполнила ли X свои юридические обязательства согласно DSA или же она рассматривала права европейских граждан, включая права женщин и детей, как «сопутствующий ущерб» от своих услуг».

Кроме того, на этой неделе комиссия объявила о продлении формальных разбирательств по расследованию в отношении X, начатому ещё в 2023 году. Оно касается вопросов борьбы с распространением незаконного контента, манипулированием информацией и прозрачностью платформы. Напомним, что в декабре прошлого года комиссия уже оштрафовала X на 120 миллионов евро (~10.8 млн рублей) за нарушения, связанные с обманным дизайном, отсутствием прозрачности рекламы и недостаточным доступом к данным для исследователей.

Это расследование является частью растущего глобального тренда на усиление регулирования крупных технологических платформ и систем искусственного интеллекта, особенно в сфере генерации контента. Закон DSA, вступивший в полную силу в 2024 году, обязывает крупные онлайн-платформы активно выявлять и снижать системные риски, угрожающие безопасности пользователей.