Gemini AI пойман на сканировании PDF-файлов, размещенных на Google Диске, без разрешения

14 июля 2024, 18:37 / Технологии → Новости / Технологии

В рамках более широкого продвижения ИИ

Thumbnail: Искусственный интеллект Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

в технологической отрасли, хотим мы этого или нет, кажется, что служба Google

Google: Google — поисковая система. Google — компания Google Inc. Google Foundation — благотворительный фонд. Google.by — домен и сайт, до 2009 года принадлежавший белорусской компании ActiveMedia. Википедия

Gemini AI теперь читает частные документы Диска без явного разрешения пользователя, согласно отчету Кевина Бэнкстера в Твиттере, приведенному ниже. В то время как Бэнкстер продолжает обсуждать причины, по которым это может быть сбоем для таких пользователей, как он, в частности, полное отсутствие контроля над его конфиденциальной личной информацией неприемлемо для компании такого уровня, как Google, и не сулит ничего хорошего для будущих проблем конфиденциальности. среди часто принудительного развертывания ИИ.

Итак, что именно здесь происходит? И служба поддержки Google, и сам ИИ Gemini, похоже, не совсем знают об этом, но у Кевина Бэнкстона есть некоторые теории, после того как он предоставил гораздо больше подробностей в полной теме. Вопреки первоначальному сообщению, технически это происходит в рамках более широкого круга Google Диска, а не конкретно Google Docs, хотя вполне вероятно, что проблема может относиться и к Docs.

Но что вызвало эту проблему? По мнению Gemini AI от Google, настройки конфиденциальности, используемые для информирования Gemini, должны быть открыто доступны, но это не так, что означает, что ИИ либо «галлюцинирует (лжет)», либо некоторые внутренние системы на серверах Google явно неисправны. В любом случае, это выглядит не очень хорошо, даже если эти личные данные предположительно не используются для обучения ИИ Близнецов.

Более того, Бэнкстон в конце концов нашел соответствующий переключатель настроек… только для того, чтобы обнаружить, что сводки Gemini в Gmail, Drive и Docs уже отключены. Кроме того, он находился совершенно в другом месте, чем любая из веб-страниц, на которые изначально указывал бот Gemini.

Для Бэнкстона проблема, похоже, локализована на Google Диске и возникает только после нажатия кнопки Gemini хотя бы на одном документе. Соответствующий тип документа (в данном случае PDF) впоследствии автоматически активирует Google Gemini для всех будущих файлов того же типа, открываемых на Google Диске. Он также предполагает, что это могло быть вызвано тем, что он включил Google Workspace Labs еще в 2023 году, что могло привести к отмене предполагаемых настроек Gemini AI.

Даже если эта проблема касается только пользователей Google Workspace Labs, это довольно серьезный недостаток, поскольку компания помогла Google протестировать свою новейшую и лучшую технологию. Согласие пользователя по-прежнему имеет большое значение, особенно в отношении потенциально конфиденциальной информации, и Google полностью подвел по крайней мере один сегмент своей пользовательской базы, не сумев остаться верным этому принципу.

Источник: Tomshardware.com