ChatGPT отключил функцию индексации диалогов в поисковых системах

Хотя ни для кого не секрет, что ИИ-модели собирают данные из самых разных источников для обучения, некоторые пользователи были удивлены, обнаружив свои беседы с ChatGPT в результатах поиска Google.

Как сообщает Fast Company, «почти 4500 диалогов появлялись в результатах поиска Google, хотя многие из них не содержали личных данных или идентифицирующей информации». В ChatGPT при попытке поделиться чатом или запросом пользователям предлагалось отметить галочкой опцию «Сделать этот чат доступным для поиска».

Под этим флажком мелким шрифтом было указано: «Позволяет показывать этот чат в веб-поиске». Fast Company отмечает, что, несмотря на отсутствие личных данных, в одном из публично доступных чатов «подробно описывалась личная жизнь пользователя и его недовольство проживанием в другой стране, а также упоминалось, что он страдает от посттравматического стрессового расстройства (ПТСР) и ищет поддержки».

В этом же чате, по данным издания, содержались подробности о семейной истории, друзьях и межличностных отношениях пользователя.

«Как специалист по вопросам конфиденциальности, я прекрасно понимаю, что эти данные не являются приватными, но, конечно, „не приватный“ может означать многое. То, что Google индексирует такие крайне личные разговоры, просто поразительно», — заявила Fast Company специалист по этике ИИ из Оксфордского университета Карисса Валис.

Можно задаться вопросом: «В чем проблема? Пользователи сами соглашались на это». Однако важно учитывать, что галочка при попытке поделиться чатом могла восприниматься иначе — например, как стандартное соглашение с условиями использования. А фраза «сделать чат доступным для поиска» могла быть истолкована как необходимый шаг для того, чтобы поделиться запросом с другом или членом семьи.

Согласно Ars Technica, изначально OpenAI защищала эту функцию как «достаточно понятную». Однако уже на следующий день после публикации Fast Company технический директор по безопасности OpenAI Дейн Стаки объявил, что функция индексации чатов в веб-поиске будет удалена из приложения ChatGPT.

Этот инцидент вновь поднял вопросы о конфиденциальности данных в эпоху ИИ. Хотя OpenAI быстро отреагировала, удалив спорную функцию, дискуссии о прозрачности настроек приватности и ответственности компаний за защиту пользовательских данных продолжаются.