Илон Маск и xAI столкнулись с иском о детской порнографии из-за ИИ Grok

Компания xAI Илона Маска должна нести ответственность за то, что позволила своим моделям искусственного интеллекта создавать оскорбительные сексуальные изображения с участием идентифицируемых несовершеннолетних. Об этом заявили три анонимных истца в иске, поданном в понедельник в федеральный суд Калифорнии.

Три истца хотят подать коллективный иск от имени всех, чьи реальные фотографии в несовершеннолетнем возрасте были превращены в сексуальный контент с помощью ИИ Grok. Они утверждают, что xAI не приняла базовых мер предосторожности, которые используют другие ведущие лаборатории, чтобы предотвратить создание их моделями изображений порнографии с участием реальных людей и детей.

Дело «Джейн Доу 1, Джейн Доу 2 (несовершеннолетняя) и Джейн Доу 3 (несовершеннолетняя) против x.AI Corp. и x.AI LLC» было подано в Окружной суд Северного округа Калифорнии.

Другие генераторы изображений на основе глубокого обучения используют различные техники, чтобы предотвратить создание детской порнографии из обычных фотографий. В иске утверждается, что xAI эти стандарты не внедрила.

Примечательно, что если модель позволяет генерировать обнажённый или эротический контент из реальных изображений, то практически невозможно помешать ей создавать сексуальный контент с участием детей. В иске большое внимание уделяется публичному продвижению Маском способности Grok создавать сексуальные образы и изображать реальных людей в откровенных нарядах.

Компания не ответила на запрос о комментарии от TechCrunch.

У одной из истцов, Джейн Доу 1, фотографии со школьного бала и из выпускного альбома были изменены Grok так, чтобы изобразить её обнажённой. Анонимный информатор, связавшийся с ней в Instagram, сообщил, что эти фото распространяются в сети, и отправил ей ссылку на Discord-сервер, где размещались сексуализированные изображения её и других несовершеннолетних, которых она узнала по школе.

Второй истце, Джейн Доу 2, следователи сообщили об изменённых, сексуализированных изображениях, созданных сторонним мобильным приложением, которое использует модели Grok. Третьей, Джейн Доу 3, также сообщили следователи, обнаружившие изменённое порнографическое изображение на телефоне задержанного ими человека. Адвокаты истцов утверждают, что, поскольку использование сторонними приложениями всё равно требует кода и серверов xAI, компания должна нести ответственность.

Все три истца, двое из которых всё ещё несовершеннолетние, заявляют, что испытывают сильнейший стресс из-за распространения этих изображений и того, что это может означать для их репутации и социальной жизни. Они требуют применения гражданских санкций в соответствии с рядом законов, призванных защищать эксплуатируемых детей и предотвращать корпоративную халатность.

Интересный факт: Иск к xAI является частью растущей волны судебных разбирательств, связанных с генеративным ИИ. Ранее в 2025 году несколько крупных технологических компаний уже сталкивались с исками о нарушении авторских прав и создании дезинформации. В отличие от многих конкурентов, Grok изначально позиционировался как модель с меньшими ограничениями, что теперь становится для неё серьёзным правовым риском.

* Meta, Facebook и Instagram запрещены в России.