Браузер Comet от Perplexity оказался уязвим для фишинга и вредоносного кода

Компании Brave и Guardio обнаружили серьёзные уязвимости в браузере Comet с искусственным интеллектом, который Perplexity выпустила в июле. Perplexity заявляла, что Comet «преобразует то, как бизнес взаимодействует с интернетом», благодаря «сочетанию корпоративной безопасности, мощных возможностей ИИ и интуитивного пользовательского опыта».

Эти заявления сами по себе должны были насторожить пользователей относительно безопасности браузера. Акцент на «корпоративной безопасности» — это как хвастовство «военным шифрованием»: скорее красный флаг, чем зелёный.

Подозрения быстро подтвердились. «Когда пользователи просят [Comet] «Обобщить эту веб-страницу», Comet передаёт часть содержимого страницы непосредственно в свою языковую модель, не различая инструкции пользователя и ненадёжный контент с веб-страницы», — сообщила Brave через месяц после дебюта браузера. «Это позволяет злоумышленникам внедрять косвенные вредоносные команды, которые ИИ будет выполнять».

Brave продемонстрировала потенциальное влияние этой уязвимости, внедрив вредоносную команду в пост на Reddit, которая могла захватить учётную запись Perplexity пользователя Comet, если бы он попросил браузер обобщить веб-страницу. Обычно главная угроза от соцсетей — «отупение», но попытка избежать этого с помощью функций обобщения Comet создавала ещё большие риски.

«Эта атака представляет серьёзные проблемы для существующих механизмов веб-безопасности», — заявила Brave. «Когда ИИ-ассистент следует вредоносным инструкциям из ненадёжного контента веб-страницы, традиционные защиты, такие как политика одинакового источника (SOP) или обмен ресурсами между разными источниками (CORS), становятся практически бесполезными. ИИ работает с полными привилегиями пользователя в аутентифицированных сессиях, предоставляя потенциальный доступ к банковским счетам, корпоративным системам, личной почте, облачным хранилищам и другим сервисам».

Исследование Guardio пошло ещё дальше. Компания показала, что Comet также готов купить поддельные Apple Watch с сайта, который любой человек-пользователь, скорее всего, идентифицировал бы как мошеннический. Также было продемонстрировано, что Comet сканирует очевидное фишинговое письмо, посещает вредоносный сайт и запрашивает у пользователя данные банковского счёта без каких-либо указаний на то, что что-то может быть не так.

«Эти два случая доказывают, что даже старейшие трюки из арсенала мошенников становятся опаснее в руках ИИ-браузинга. Цепочка доверия — вот что меняет правила игры: человек больше не взаимодействует напрямую с подозрительным контентом, никогда не видит красных флагов и не получает шанса принять собственное решение», — сказали в Guardio. «Человеческая интуиция для избежания вреда исключена из процесса, и ИИ становится единственной точкой принятия решений. Без строгих ограничителей ИИ это решение по сути — подбрасывание монетки. А когда ваша безопасность зависит от случая, это лишь вопрос времени, когда она окажется не на той стороне».

Важно прояснить: в настоящее время Comet доступен только клиентам Perplexity Pro и Enterprise Pro, то есть люди и бизнес платят за доступ к браузеру. Взамен они получили браузер, кишащий уязвимостями, независимо обнаруженными двумя организациями, которые больше выиграли от их раскрытия компании и общественности, чем от эксплуатации этих недостатков.

Стоит также отметить, что Perplexity предложила более чем вдвое превышающую текущую оценку сумму за браузер Google Chrome. Comet уже построен на основе Chromium, так что компания не пытается купить основу для своего ИИ-браузера; она конкретно хочет купить существующую долю рынка Chrome. Учитывая выводы Brave, Guardio и кто знает кого ещё, это должно быть пугающей перспективой для всех, кто до сих пор использует Chrome для веб-сёрфинга.