Исследование Microsoft: люди не могут отличить реальные изображения от AI-генерации в 62% случаев

Если вы не уделяете особого внимания фильтрации своей ленты в соцсетях, то наверняка заметили, как сложно избежать потока AI-генерации изображений и видео. Еще более тревожным является тот факт, насколько часто наши близкие не могут отличить AI-контент от созданного человеком. И что еще хуже — мы и сами порой попадаемся на удочку сгенерированных изображений.

Оказывается, это не просто субъективное ощущение. Согласно новому исследованию лаборатории Microsoft AI for Good, люди правильно определяют разницу между реальными и AI-сгенерированными изображениями лишь в 62% случаев. Это, конечно, лучше, чем подбрасывать монетку, но все равно довольно печально.

Эти данные основаны на «287 000 оценках изображений» от 12 500 участников, которым было предложено классифицировать подборку картинок. Каждый участник оценил около 22 изображений, выбранных из большой базы, включающей «350 реальных изображений, свободных от авторских прав», и «700 изображений, созданных с помощью DALL·E 3, Stable Diffusion 3, Stable Diffusion XL, Stable Diffusion XL Inpainting, Amazon Titan v1 и Midjourney v6». Если хотите проверить себя, можете пройти тот же тест «Реальное или нет».

Лаборатория Microsoft также протестировала на этих изображениях свой собственный AI-детектор, который находится в разработке. Как выяснилось, этот инструмент способен правильно идентифицировать AI-генерацию в 95% случаев.

Исследователи также призывают к большей прозрачности в сфере генеративного ИИ, предлагая такие меры, как «водяные знаки и цифровые подписи, чтобы информировать публику о происхождении контента». Однако водяные знаки можно обрезать, а мотивированные злоумышленники наверняка найдут способы обойти и другие защитные меры.

ИИ: Интересно, как скоро AI-детекторы станут таким же привычным инструментом, как антивирусы, и насколько эффективными они окажутся в долгосрочной перспективе.