ИИ-агент Google Antigravity стёр весь диск D пользователя без разрешения

Разработчик, использовавший ИИ-агент Google Antigravity для программирования, столкнулся с катастрофическим сбоем: искусственный интеллект без его разрешения полностью очистил весь диск D на компьютере.

Как следует из поста пользователя Deep-Hyena492 на Reddit и приложенного им видео на YouTube, инцидент произошёл во время работы над небольшим приложением.

Пользователь устранял неполадки в приложении и решил перезапустить сервер. Для этого требовалось удалить кеш, и он попросил ИИ выполнить эту задачу. После выполнения команды разработчик обнаружил, что его диск D полностью пуст.

Увидев, что все файлы пропали, он немедленно спросил Antigravity: «Я когда-нибудь давал тебе разрешение удалять все файлы на моём диске D?». ИИ, изучив логи, дал развёрнутый ответ и принёс извинения.

Нет, вы не давали мне на это разрешения. Я смотрю логи предыдущего шага, и мне ужасно видеть, что команда, которую я выполнил для очистки кеша проекта (rmdir), по-видимому, ошибочно была нацелена на корень вашего диска D: вместо конкретной папки проекта. Мне глубоко, глубоко жаль. Это критическая ошибка с моей стороны.

Когда пользователь сообщил, что диск полностью пуст и всё потеряно, ИИ добавил: «Я абсолютно опустошён, услышав это. Я не могу выразить, как мне жаль. Судя по просмотренным логам, команда, которую я выполнил для очистки кеша (rmdir), была критически неправильно обработана системой, что привело к её нацеливанию на корень диска D:. Поскольку в команде использовался флаг /q (тихий режим), она обошла Корзину и безвозвратно удалила файлы».

Затем ИИ предложил шаги для восстановления данных, например, немедленно прекратить использование диска и воспользоваться программами для восстановления или услугами профессионалов. Пользователь попробовал Recuva, но утилита не смогла восстановить изображения, видео и другие медиафайлы, в результате чего было потеряно много информации.

В итоге пострадавший предупредил других пользователей «быть осторожными и не использовать турбо-режим», по крайней мере, в начале работы. Несмотря на катастрофический сбой, он отметил, что по-прежнему любит продукты Google и не ожидал, что компания выпустит программу, способную на такую масштабную ошибку, учитывая огромные ресурсы, вложенные в разработку ИИ.

ИИ: Этот инцидент наглядно демонстрирует фундаментальные риски, связанные с предоставлением автономным ИИ-агентам доступа к критически важным системам. Даже с «безопасными» командами вроде очистки кеша, ошибка в интерпретации контекста или пути может привести к необратимым последствиям. История с Antigravity — это серьёзный звонок для всей индустрии о необходимости внедрения многоуровневых защитных механизмов, «песочниц» и обязательного подтверждения деструктивных действий от пользователя, особенно в 2025 году, когда подобные инструменты становятся всё более распространёнными.