Исследователи выявили уязвимость в Google Gemini, позволяющую красть данные через календарь

Специалисты по кибербезопасности из SafeBreach обнаружили, что злоумышленники могут использовать приглашения в Google Calendar для эксплуатации уязвимостей в Gemini — ИИ-ассистенте Google, встроенном в Workplace, Android и поисковую систему. Это часть их исследования рисков, связанных с быстрой интеграцией ИИ в цифровые продукты.

Эксперты назвали такой метод атаки «promptware», поскольку он использует специально сформированные запросы (текстовые, графические или аудио), чтобы заставить языковую модель выполнять вредоносные действия, например, рассылать спам или извлекать конфиденциальные данные. SafeBreach отмечает, что сообщество специалистов по безопасности недооценивает угрозы, связанные с promptware, и их отчёт демонстрирует масштаб возможного ущерба.

Эксплойт использует интеграцию Gemini с экосистемой Google, возможность заполнения интерфейса календаря множеством приглашений и привычку пользователей автоматически благодарить ботов за выполнение задач. Это позволяет косвенно активировать скрытые вредоносные команды в истории чата и выполнять следующие действия:

• рассылать спам от имени пользователя,
• раскрывать местоположение,
• передавать конфиденциальную переписку.

Исследователи сообщили о проблеме Google ещё в феврале, и в июне компания опубликовала статью с описанием многоуровневой системы защиты Gemini от атак с инъекцией промптов. Однако точное время внедрения исправлений остаётся неизвестным.

«Согласно нашему анализу, 73% угроз, связанных с ИИ-ассистентами, представляют высокий или критический риск», — заявили в SafeBreach. «Мы считаем, что это требует срочных мер для защиты пользователей».

Эта ситуация отражает классический цикл цифровой безопасности: компании внедряют технологии, злоумышленники находят уязвимости, разработчики выпускают патчи, а затем обнаруживаются новые проблемы. Однако в случае с ИИ риски выше из-за его повсеместного внедрения и недостаточной осведомлённости о promptware.