Douyin заблокировал 14 тысяч аккаунтов за AI-генерацию низкопробного контента

Китайская платформа для коротких видео Douyin (китайский аналог TikTok) начала активную борьбу с порнографическим и вульгарным контентом, созданным с помощью искусственного интеллекта.

В этом году платформа обработала 42 000 единиц подобного контента и применила различные меры наказания к 14 000 учетных записей. Санкции включают ограничение рекомендаций, блокировки и приостановку действия аккаунтов.

В ходе проверок выяснилось, что некоторые пользователи используют технологии ИИ для создания сомнительного контента и привлечения трафика на порнографические ресурсы. В одном из случаев преступная группировка использовала AI-генерацию для создания конкретных образов, выпускала откровенные видео и тексты с сексуальными намёками, а также заманивала пользователей на скачивание непристойных приложений. Четыре члена этой группировки были задержаны.

Другие аккаунты использовали сгенерированные ИИ изображения красивых женщин в качестве обложек для стримов, чтобы направлять зрителей на порнографические сайты. За это 339 связанных аккаунтов были бессрочно лишены права на ведение прямых трансляций.

Ещё 8421 аккаунт, который постоянно публиковал созданный ИИ контент откровенного или граничащего с непристойным поведения, также подвергся многоуровневым санкциям, а неприемлемый контент был удалён.

Douyin заявила, что распространение подобного контента нарушает законы и подозревается в незаконном использовании информационных сетей. Платформа будет сообщать о подобных действиях в органы общественной безопасности. В дальнейшем Douyin планирует продолжать совершенствовать технологии модерации для лучшего выявления и обработки нежелательного AI-контента.

ИИ: Мера, безусловно, необходимая, учитывая масштабы и скорость генерации контента с помощью ИИ. Однако это поднимает вечный вопрос о балансе между модерацией и свободой творчества, а также о том, кто и как определяет границы «вульгарного» и «сомнительного». В 2026 году подобные кейсы становятся всё более частыми для всех крупных платформ.