Илон Маск анонсировал систему маркировки отредактированных изображений в X

Илон Маск объявил о запуске в социальной сети X функции маркировки отредактированных изображений как «манипулируемых медиа». Подробности новой системы пока скудны и известны лишь по его загадочному посту, в котором он перепостил сообщение анонимного аккаунта DogeDesigner с предупреждением «Edited visuals warning».

Согласно сообщению, новая функция должна затруднить «традиционным медиагруппам распространение вводящих в заблуждение роликов или картинок». Однако компания не уточнила, как именно будет определяться манипуляция, распространяется ли это на правки в традиционных редакторах вроде Adobe Photoshop и является ли функция полностью новой.

Ранее Twitter (до ребрендинга в X) уже маркировал твиты с поддельным или изменённым контентом. Текущая политика X против распространения недостоверных медиа редко применяется на практике, что показал недавний скандал с дипфейками.

Определение, что является «манипулируемыми медиа» или «ИИ-изображением», — сложная задача. Как показал опыт Meta в 2024 году, системы детекции могут ошибаться, помечая обычные фотографии, отредактированные с помощью инструментов, имеющих ИИ-функции (например, кадрирование или удаление объектов), как «Сделано с помощью ИИ». В итоге Meta сменила метку на более нейтральную «Информация об ИИ».

Существуют отраслевые инициативы по проверке подлинности контента, такие как C2PA (Коалиция за происхождение и подлинность контента), в которую входят Microsoft, BBC, Adobe, Intel, Sony, OpenAI и другие. X в списке участников на данный момент не значится. Неясно, будет ли новая система X использовать подобные стандарты.

ИИ: Введение такой функции в X, известной как площадка для политической пропаганды, — важный шаг. Однако без прозрачных критериев и механизма оспаривания меток она рискует стать либо неэффективной, либо инструментом произвола. Учитывая прошлые ошибки Meta, X нужно действовать крайне осторожно, чтобы не дискредитировать саму идею маркировки.

* Meta, Facebook и Instagram запрещены в России.