OpenAI вводит водяные знаки для изображений DALL-E 3
OpenAI внедряет новую функцию для генератора изображений DALL-E 3. Добавление водяных знаков к изображениям, созданным DALL-E 3, является важным шагом на пути к отличию изображений, созданных искусственным интеллектом, от изображений, созданных людьми.
По замыслу разработчиков, это должно помочь отследить происхождение изображений, созданных с помощью OpenAI. Данный шаг предполагает встраивание водяных знаков в метаданные изображения — стратегию, поддерживаемую «Коалицией за происхождение и подлинность контента» (C2PA). Внедрение этих водяных знаков призвано облегчить каждому отслеживание происхождения цифровых изображений, гарантируя, что пользователи смогут проверить, было ли изображение создано искусственным интеллектом. Водяной знак бывает двух видов: невидимый компонент метаданных и видимый символ CR, незаметно расположенный в верхнем левом углу изображения.
Изображение, сгенерированное ИИ
Начиная с веб-сайта ChatGPT и заканчивая API DALL-E 3, эта функция вскоре будет доступна для мобильных пользователей, обещая плавную интеграцию, обеспечивающую высокое качество создаваемых изображений. Несмотря на опасения по поводу потенциального увеличения размеров изображений и времени обработки, OpenAI уверяет пользователей, что эти изменения окажут минимальное влияние.
За данной инициативой стоит C2PA — консорциум таких технологических гигантов, как Adobe и Microsoft , выступающий за подлинность цифрового контента с помощью водяного знака Content Credentials. Эти усилия направлены не только на добавление уровня прозрачности — речь идет о развитии цифровой экосистемы, в которой грань между контентом, созданным человеком и искусственным интеллектом, будет различима.
Тем не менее, остаются проблемы, такие как легкость, с которой метаданные могут быть удалены, намеренно или случайно. Например, с помощью элементарного копирования без сохранения метаданных, а удаление водяного знака на изображениях можно опять же поручить искусственному интеллекту. Эта уязвимость подчеркивает продолжающуюся борьбу с дезинформацией и сложную среду проверки цифрового контента.
0 комментариев