YouTube расширяет обнаружение AI-дипфейков для политиков и журналистов

YouTube расширяет пилотную программу по обнаружению AI-дипфейков, предоставив доступ к инструменту проверки государственным служащим, политическим кандидатам и журналистам. Участники программы смогут находить несанкционированный контент, созданный искусственным интеллектом, и запрашивать его удаление, если он нарушает политику платформы.

Технология, аналогичная системе Content ID для защиты авторских прав, ищет в загружаемых видео лица, сгенерированные ИИ. Такие инструменты часто используются для распространения дезинформации, когда известные личности, например политики, говорят или делают то, чего не было в реальности.

«Это расширение действительно касается целостности публичного диалога. Мы знаем, что риски AI-имитации особенно высоки для тех, кто работает в гражданской сфере», — заявила вице-президент YouTube по государственным делам и публичной политике Лесли Миллер.

При этом YouTube будет оценивать каждый запрос на удаление в соответствии с правилами конфиденциальности, чтобы не удалять пародии или политическую критику, которые являются защищёнными формами самовыражения.

Для участия в пилоте необходимо подтвердить личность с помощью селфи и удостоверения. После создания профиля можно просматривать найденные совпадения и запрашивать их удаление. В будущем YouTube планирует позволить предотвращать загрузку нарушающего контента до его публикации.

Все видео, созданные с помощью ИИ, будут иметь соответствующую маркировку. Для «чувствительных тем» метка будет размещаться непосредственно на видео, в остальных случаях — в описании.

Компания не раскрывает, сколько именно дипфейков было удалено с помощью этой технологии, отмечая, что объём пока «очень мал». В будущем YouTube намерен распространить технологию обнаружения на узнаваемые голоса и другие объекты интеллектуальной собственности, например популярных персонажей.