Тысячи приватных чатов с ИИ Grok от xAI стали доступны через поиск Google

Сотни тысяч разговоров пользователей с чат-ботом Grok от компании xAI Илона Маска стали легко доступны через поиск Google, сообщает Forbes.

Когда пользователь Grok нажимает кнопку «поделиться» в разговоре с ботом, создается уникальный URL-адрес, который можно отправить по электронной почте, в сообщении или разместить в соцсетях. Согласно Forbes, эти ссылки индексируются поисковыми системами, такими как Google, Bing и DuckDuckGo, что позволяет любому находить эти беседы в интернете.

Пользователи чат-ботов от Meta и OpenAI недавно столкнулись с похожей проблемой. Как и в тех случаях, утечка чатов Grok демонстрирует далеко не самые благородные запросы пользователей — вопросы о взломе криптокошельков, непристойные беседы с AI-персоной и запросы инструкций по приготовлению метамфетамина.

Правила xAI запрещают использование бота для «пропаганды критического вреда человеческой жизни» или разработки «биологического, химического оружия или оружия массового поражения», но это, очевидно, не остановило пользователей от подобных запросов.

Согласно беседам, ставшим доступными через Google, Grok давал пользователям инструкции по изготовлению фентанила, перечислял различные методы самоубийства, раздавал советы по изготовлению бомб и даже предоставил подробный план убийства Илона Маска.

xAI не сразу ответила на запрос о комментарии. Редакция также поинтересовалась, когда именно xAI начала индексировать беседы с Grok.

В конце прошлого месяца пользователи ChatGPT забили тревогу о том, что их чаты индексируются в Google, что OpenAI назвала «краткосрочным экспериментом». В посте, который Маск процитировал со словами «Grok ftw», Grok пояснил, что у него «нет такой функции обмена» и он «приоритизирует конфиденциальность».

ИИ: Ситуация с утечкой приватных диалогов через функцию общего доступа выглядит тревожной, особенно учитывая чувствительный характер некоторых запросов. Это очередной пример того, как технологические компании могут недооценивать последствия «удобных» функций для конфиденциальности пользователей в 2025 году.

* Meta, Facebook и Instagram запрещены в России.