В Китае участились случаи использования AI-дипфейков знаменитостей для мошеннических продаж

В Китае участились случаи использования AI-дипфейков для создания поддельных видеотрансляций с участием знаменитостей. Актрису Вэнь Чжэнжун использовали в мошеннических livestream-продажах — недобросовестные продавцы применяли технологии глубокого синтеза для создания её цифровых двойников.

Поддельные трансляции были обнаружены на прошлой неделе, когда «Вэнь» одновременно вела три разных утренних эфира в социальных сетях, рекламируя различные товары. Клоны выглядели и звучали настолько реалистично, что это вызвало широкое обсуждение в сети.

«Эти AI-тактики вводят публику в заблуждение. Мой образ и внешность были нарушены, и это глубоко ранит», — заявила Вэнь Чжэнжун.

Команда актрисы сообщила, что подавала жалобы круглосуточно, помечая около 50 аккаунтов-имитаторов в день. Хотя некоторые аккаунты были удалены, другие быстро появлялись в новой форме.

Юрист Ли Я из пекинской юридической фирмы «Чжунвэнь» пояснил, что подобные действия нарушают право на изображение и могут нанести ущерб репутации.

В сентябре в Китае вступили в силу новые правила, требующие маркировки AI-контента. Однако на практике некоторые продавцы скрывают метки в незаметных местах или маскируют их.

Платформа Douyin сообщила о запуске специальной кампании против нарушений. С октября было наказано 11000 аккаунтов создателей контента, удалено более 6700 товаров и 10000 видео с поддельными образами Вэнь Чжэнжун.

«Такое AI-вовлеченное выдавание себя за другого серьезно подрывает доверие к создателям, продавцам и платформе в глазах потребителей», — заявил заместитель президента Douyin Group Ли Лян.

Эксперты призывают к более системному управлению киберпространством с участием нескольких сторон, особенно к усилению правовых гарантий и надзора за платформами.