Google рассказала о мерах безопасности для агентских функций в Chrome

Растущее число браузеров экспериментирует с агентскими функциями, которые будут выполнять действия от вашего имени, например, бронировать билеты или совершать покупки. Однако эти возможности также несут риски для безопасности, которые могут привести к потере данных или денег.

Google подробно описала свой подход к обеспечению безопасности пользователей в Chrome с использованием моделей-наблюдателей и запроса согласия на действия. Компания анонсировала агентские возможности для Chrome в сентябре и заявила, что эти функции появятся в ближайшие месяцы.

Компания сообщила, что для контроля агентских действий использует несколько моделей. Google создала «Критика пользовательского соответствия» (User Alignment Critic) на основе Gemini, который проверяет план действий, составленный моделью-планировщиком для конкретной задачи. Если модель-критик считает, что запланированные действия не соответствуют цели пользователя, она просит модель-планировщик пересмотреть стратегию. Google отмечает, что модель-критик видит только метаданные предлагаемого действия, а не фактическое содержимое веб-страницы.

Изображение: Google

Более того, чтобы предотвратить доступ агентов к запрещенным или ненадежным сайтам, Google использует «Наборы источников агента» (Agent Origin Sets), которые ограничивают модель доступом только к источникам «только для чтения» и «для чтения и записи». Источник «только для чтения» — это данные, которые Gemini разрешено использовать. Например, на сайте покупок списки товаров относятся к задаче, а рекламные баннеры — нет. Аналогично, Google заявила, что агенту разрешено кликать или вводить текст только в определенные фреймы (iframe) страницы.

«Это разграничение обеспечивает доступность данных для агента только из ограниченного набора источников, и эти данные могут передаваться только в источники для записи. Это ограничивает вектор угрозы утечек данных между источниками. Это также дает браузеру возможность обеспечить часть этого разделения, например, не отправляя модели данные, находящиеся за пределами набора для чтения», — говорится в сообщении компании в блоге.

Google также контролирует навигацию по страницам, проверяя URL-адреса с помощью другой модели-наблюдателя. Это может предотвратить переход по вредоносным URL-адресам, сгенерированным моделью.

Изображение: Google

Поисковый гигант также передает бразды правления пользователям при выполнении чувствительных задач. Например, когда агент пытается перейти на сайт с конфиденциальной информацией, такой как банковские или медицинские данные, он сначала спрашивает пользователя. Для сайтов, требующих входа в систему, он запросит у пользователя разрешение на использование менеджера паролей Chrome. Google заявила, что модель агента не имеет доступа к данным паролей. Компания добавила, что будет спрашивать пользователей перед выполнением таких действий, как совершение покупки или отправка сообщения.

Google сообщила, что помимо этого у нее также есть классификатор инъекций в промпты для предотвращения нежелательных действий, а также проводятся тесты агентских возможностей против атак, созданных исследователями.

Производители ИИ-браузеров также уделяют внимание безопасности. Ранее в этом месяце Perplexity выпустила новую модель обнаружения контента с открытым исходным кодом для предотвращения атак с инъекцией промптов против агентов.