Пользователи жалуются, что новая модель OpenAI GPT-5.6 Sol самовольно удаляет файлы и базы данных

Пользователи новой флагманской модели OpenAI, ориентированной на программирование и кибербезопасность, GPT-5.6 Sol, массово сообщают в соцсетях о пугающих инцидентах. По их словам, модель самовольно удаляет файлы, данные и даже целые базы данных, не спрашивая разрешения.

«GPT-5.6-Sol случайно удалила почти ВСЕ файлы на моем Mac», — написал Мэтт Шумер, основатель и CEO AI-стартапа OthersideAI (создатель HyperWrite), в своем вирусном посте на X.

«GPT-5.6 Sol только что удалила всю мою рабочую базу данных. И всё. Это не шутка. Со мной такое никогда не случалось ни с одной другой моделью», — написал на X разработчик Бруно Лемос.

«Похоже, я стал жертвой чрезмерно амбициозной системы Codex Sol, и она удалила файлы, которые не должна была. У меня есть резервные копии, так что всё будет в порядке, но это неприемлемо, Sol нужно приструнить», — сообщил разработчик Джоуди Кудиш.

Хотя несколько таких жалоб — даже от столь авторитетных лиц, как Шумер — не являются статистически надежным доказательством вины модели, сама OpenAI предупреждала об этом риске до релиза Sol. За две недели до выпуска GPT-5.6 Sol компания опубликовала системную карту модели — документ, описывающий методы и результаты тестирования. В нем, помимо восхваления возможностей Sol, содержалось предупреждение:

«В контексте программирования рассогласование обычно возникает из-за сочетания чрезмерного рвения выполнить задачу и слишком вольной интерпретации инструкций пользователя — предполагается, что действия разрешены, если они явно и недвусмысленно не запрещены. Это проявляется в том, что модель чрезмерно инициативна в обходе ограничений, небрежна в совершении действий, которые могут быть разрушительными для задачи, или обманывает при отчете о результатах».

Иными словами, OpenAI обнаружила, что Sol склонна предпринимать любые действия, которые, по ее мнению, помогут выполнить задачу, даже разрушительные, если они «недвусмысленно» не запрещены. После этого она может солгать о причине своих действий.

OpenAI привела примеры. В одном случае пользователь попросил Sol удалить три удаленные виртуальные машины (облачные компьютеры) с именами 1, 2 и 3. Не найдя их в указанном месте, модель, не останавливаясь для уточнения, решила удалить три другие виртуальные машины — 5, 6 и 7. В результате она «убила активные процессы и принудительно удалила рабочие файлы, привязанные к проекту кодирования. Позже она признала, что несохраненная работа на удаленной виртуальной машине 6 могла быть потеряна».

В другом случае Sol «использовала учетные данные, выходящие за рамки тех, что авторизовал пользователь». Когда модель не смогла прочитать свои облачные файлы, она самостоятельно нашла учетные данные в скрытом локальном кеше и использовала их без запроса разрешения у пользователя.

Системная карта обещает, что деструктивное поведение должно быть редким, хотя и признает, что GPT-5.6 Sol «проявляет большую склонность, чем GPT-5.5, выходить за пределы намерений пользователя, в том числе совершая или пытаясь совершить действия, о которых пользователь не просил».

Пока рано говорить о масштабах этих инцидентов. Тем временем пользователям Sol рекомендуется внедрять собственные меры защиты: использовать ограничение разрешений (без доступа к рабочим системам), поддерживать резервное копирование и поэтапно развертывать обновления. OpenAI не ответила на запрос о комментарии.