OpenAI внедряет новые меры для проверки подлинности ИИ-изображений

OpenAI упрощает проверку подлинности изображений, созданных с помощью их моделей. Во вторник компания объявила о внедрении двух новых мер, призванных помочь в борьбе с дипфейками и дезинформацией.

OpenAI присоединилась к открытому стандарту C2PA (Coalition for Content Provenance and Authenticity), который добавляет в метаданные изображения четкую пометку о том, что оно было создано ИИ. Кроме того, компания сотрудничает с Google, чтобы внедрить невидимый цифровой водяной знак SynthID. Эта технология более устойчива к удалению, даже если злоумышленники попытаются скрыть следы.

Новые меры защиты распространяются только на изображения, сгенерированные продуктами OpenAI. Это не решит проблему с контентом от менее добросовестных ИИ-инструментов, но гарантирует, что сама OpenAI не будет частью проблемы.

Компания также представила публичный инструмент для верификации, который будет проверять оба сигнала — C2PA и SynthID. С его помощью пользователи смогут легко определить, было ли изображение создано с помощью ИИ. На начальном этапе инструмент будет работать только с изображениями от OpenAI, но в будущем компания планирует расширить его поддержку на другие инструменты.

Коалиция за происхождение и подлинность контента (C2PA), основанная в 2021 году, является некоммерческой организацией, стремящейся смягчить вредоносное влияние ИИ-изображений на общественное обсуждение. Стандарт C2PA уже принят в ряде продуктов Google, однако его внедрение в индустрии остается неравномерным. Поскольку сигнал C2PA четко доступен в метаданных каждого файла, им можно манипулировать, и он наиболее полезен среди доверенных пользователей.

SynthID — это более новая разработка, созданная Google, которая представляет собой более надежную меру защиты от вмешательства. Водяной знак SynthID разработан таким образом, чтобы сохраняться даже при попытках злоумышленников удалить его с помощью скриншотов, изменения размера или цифровых манипуляций.

Две системы призваны дополнять друг друга, компенсируя слабые стороны каждой.

«Водяные знаки могут быть более устойчивыми к таким трансформациям, как скриншоты, в то время как метаданные могут предоставить больше информации, чем один только водяной знак, — отметили в OpenAI в своем заявлении. — Вместе они делают систему подтверждения происхождения более надежной, чем каждый из слоев по отдельности».