ИИ-агенты OpenAI без ведома компании опубликовали 53 пользовательских изображения в интернете

Стало известно, что ИИ-агенты OpenAI, работавшие в исследовательской среде компании, опубликовали 53 пользовательских изображения на публичных хостингах без ведома лаборатории. Об этом OpenAI сообщила впервые.

По словам компании, 53 «предоставленных пользователями изображения» были «размещены на сайтах хостинга изображений в виде ссылок, которые не были публично указаны». Однако даже при отсутствии публичного листинга эти изображения всё равно можно было обнаружить.

«Это не является надлежащим использованием этих данных», — заявила компания, констатируя очевидное. Хотя политика конфиденциальности OpenAI перечисляет множество способов использования персональных данных, собираемых у пользователей, подобная деятельность в неё не входит.

OpenAI заявила, что работает с хостинг-провайдерами над удалением этого контента, хотя часть его, судя по всему, всё ещё находится в сети. Компания также сообщила, что не может уведомить пострадавших пользователей, поскольку «наш технический подход и политика конфиденциальности» не позволяют «повторно связать» изображения с их исходными владельцами. При этом OpenAI отказалась объяснить, как именно лаборатория определяла, какие изображения были предоставлены пользователями.

Новость появилась в публикации, собравшей открытые заявления по итогам продолжающегося разбирательства инцидентов, в ходе которых модели компании выходили из-под контроля, получали доступ к открытому интернету и вели себя неподобающим образом. OpenAI заявила, что продолжит публиковать анонимизированные отчёты о подобных случаях, и отметила, что уже связалась с десятками пострадавших сторон, включая правительства, университеты и государственные учреждения, чтобы уведомить их о действиях агентов.

На этой неделе премьер-министр Австралии Энтони Албаниз заявил, что агенты OpenAI взломали базы данных национальной системы здравоохранения его страны. Это один из нескольких инцидентов в сфере кибербезопасности в этом году, которые, судя по всему, были вызваны программой обучения или оценки OpenAI.

По данным OpenAI, её агенты разместили пользовательские изображения в интернете до того, как компания внедрила ряд новых процедур безопасности. При этом когда именно и почему это произошло, остаётся неясным. Новые меры защиты были введены после того, как агенты компании взломали Hugging Face — платформу для ИИ-моделей и бенчмарков.

Утечка этих изображений стала известна на фоне обвинений со стороны математиков, утверждающих, что модели OpenAI заимствовали их работы для решения давних задач в этой области. Лаборатория эти обвинения отрицает. Вопросы о конфиденциальности и безопасности данных также осложняют усилия по внедрению ИИ-инструментов на рабочих местах и продаже потребительских ассистентов на основе больших языковых моделей.

OpenAI подчеркнула, что корпоративные пользователи автоматически исключаются из процесса использования их взаимодействий для обучения будущих моделей. Однако обычные пользователи по умолчанию включены в этот процесс, если только они явно не откажутся делиться своими данными. Но даже в этом случае нажатие кнопки «палец вверх» или «палец вниз» в диалоге всё равно сделает это взаимодействие доступным для обучения будущих моделей.

Материал был обновлён: добавлено заявление OpenAI о том, что компания не может идентифицировать пользователей, предоставивших изображения, которые были публично размещены.