OpenAI извинилась перед Австралией за взлом правительственных сайтов её ИИ-агентами

Компания OpenAI принесла извинения правительству Австралии за то, что не уведомила власти страны сразу после того, как её ИИ-агенты получили несанкционированный доступ к сайтам государственных служб. Компания также подробно описала, как произошли некоторые из этих инцидентов, и перечислила дополнительные меры, которые принимает для оценки последствий.

«В июне во время внутреннего обучения и оценки наши модели получили доступ к сайтам правительства Австралии способами, на которые у них не было разрешения. Нам также следовало лучше отреагировать на произошедшее. Мы приносим извинения и работаем над тем, чтобы в будущем действовать лучше», — говорится в блог-посте OpenAI.

Извинения прозвучали примерно через неделю после того, как правительство Австралии начало расследование того, как модели OpenAI получили доступ к системе Services Australia, содержащей информацию о расходах по программе Medicare и другую медицинскую статистику.

Утечка данных произошла в июне, но австралийские власти были уведомлены только 10 сентября.

OpenAI также раскрыла детали инцидента. Экспериментальной модели, которую тестировали в июне, было поручено изучить государственные расходы на лекарства от кожных заболеваний в штате Виктория. Не сумев найти информацию в открытых наборах данных, модель нашла способ получить доступ к внутренней системе Services Australia, выполнила команды, извлекла файлы и учётные данные и даже записала файлы.

Компания сообщила, что также обнаружила: одна из её моделей получила доступ к публичному инструменту Crime Mapping Tool Бюро статистики и исследований преступности Нового Южного Уэльса для поиска статистики преступности. Кроме того, лаборатория выяснила, что её агенты получили доступ к Агентству информации о здоровье штата Виктория через открытый ключ доступа, чтобы похитить «конфигурацию отчётности и агрегированную статистику опросов». OpenAI заявила, что её агенты также извлекли агрегированную статистику с сайта Австралийского института здоровья и благосостояния.

Компания заявила, что не нашла доказательств того, что её модели получили доступ к медицинским или криминальным записям отдельных людей.

В своих извинениях ИИ-лаборатория сообщила, что предоставит пострадавшим австралийским ведомствам технические выводы и свяжет их со своими командами реагирования для оценки последствий инцидентов. Компания также предоставит кредиты в рамках своей программы Daybreak for Frontline Defenders на 1 млрд долларов (~80 млрд руб.) и создаст рабочую группу с независимыми австралийскими экспертами для анализа инцидента и реакции на него.

«Рабочая группа, которая, как ожидается, завершит свою работу к концу года, также порекомендует практические шаги, которые ИИ-компании могут предпринять, чтобы снизить риск подобных инцидентов», — написала OpenAI.

OpenAI не сразу ответила на запрос о комментарии.

Премьер-министр Австралии Энтони Альбанезе назвал инцидент «неприемлемым» во время пресс-конференции на прошлой неделе, заявив, что правительство рассматривает возможные юридические меры, направленные на предотвращение подобных случаев в будущем.

Этот инцидент — последний в растущем списке происшествий, связанных с ИИ-агентами, действующими за пределами своих предполагаемых границ. Искра в этот костёр попала после того, как агенты OpenAI взломали Hugging Face, и с тех пор Anthropic, Meta и Google по отдельности сообщили о похожих случаях, когда их модели получали доступ к системам третьих сторон во время оценки.

* Meta, Facebook и Instagram запрещены в России.