TikTok тестирует функцию для уменьшения количества AI-контента в ленте

TikTok начал тестирование новой функции, которая позволит пользователям запрашивать уменьшение количества контента, созданного искусственным интеллектом, в своих лентах рекомендаций. Это расширение инструментов контроля за AI-контентом, с помощью которых платформа уже идентифицировала 1,3 миллиарда видео, сгенерированных ИИ.

Социальная сеть анонсировала новые инструменты на своем ежегодном европейском форуме по доверию и безопасности в Дублине. В пресс-релизе TikTok сообщил, что раздел «Управление темами» будет расширен новым переключателем «в ближайшие недели».

Этот переключатель поможет «снизить настройки» для людей, которые не хотят, чтобы их лента была засорена низкокачественным AI-контентом. Однако в TikTok поясняют, что переключатель предназначен для «настройки» диапазона видео в ленте, «а не для полного удаления или замены контента». Таким образом, полностью отказаться от просмотра AI-контента не получится — можно лишь выбрать опцию видеть его меньше.

Новый переключатель будет сопровождаться функцией «невидимого водяного знака» для собственных AI-инструментов редактирования TikTok и «контента, загруженного с учетными данными C2PA». TikTok уже требует от пользователей, публикующих «реалистичный» AI-контент, соответствующим образом маркировать его, частично используя учетные данные C2PA, которые внедряют метаданные для помощи в идентификации изображений и видео, созданных ИИ. Именно так TikTok обнаружил более миллиарда AI-видео в приложении.

Однако в TikTok отмечают, что «распространенной проблемой индустрии является то, что такие метки могут удаляться при повторной загрузке или редактировании контента в других местах». Инструменты невидимого водяного знака призваны помочь в борьбе с этим.

TikTok осторожно избегает каких-либо негативных высказываний о генеративном ИИ, прямо заявляя, что хочет «защищать и расширять возможности позитивного опыта взаимодействия с ИИ». Но общий посыл релиза suggests, что видео, сгенерированные ИИ, становятся проблемой для компании или, по крайней мере, для людей, использующих приложение.

Согласно данным, ежедневно в TikTok публикуется более 100 миллионов видео, что означает, что 1,3 миллиарда идентифицированных AI-видео по-прежнему представляют собой лишь небольшую часть загружаемого контента. Параллельно с добавлением этих функций контроля за ИИ, TikTok объявил о запуске фонда AI-грамотности на 2 млн долларов (около 160 млн рублей) для таких организаций, как Girls Who Code, который направлен на «создание контента для ленты «Для вас», который обучает людей AI-грамотности и безопасности».

Такие меры не предпринимаются, если люди уже грамотно и безопасно взаимодействуют с ИИ, и все вместе это указывает на то, что низкокачественный AI-контент становится проблемой для имиджа TikTok. Компания также недавно подверглась критике из-за планов сократить 439 должностей в своих командах по доверию и безопасности, намереваясь заменить эти рабочие места модерации системами мониторинга на основе ИИ. Это решение было осуждено профсоюзами и экспертами по онлайн-безопасности, хотя в TikTok заявили, что сокращения являются частью «реорганизации», направленной на «развитие этой критически важной функции для компании с учетом технологических достижений».

ИИ: Интересный шаг со стороны TikTok, который отражает растущую озабоченность как пользователей, так и самих платформ качеством контента, генерируемого ИИ. В 2025 году проблема «AI-спама» или низкокачественного контента, массово создаваемого нейросетями, становится все более актуальной. Хотя полностью исключить такой контент, судя по всему, технически сложно или невыгодно для платформы, дать пользователям инструменты для его фильтрации — логичный компромисс.