Мощный ИИ-ассистент Instinct вызывает опасения по поводу приватности и безопасности

Мощный ИИ-ассистент Instinct, который сейчас находится в закрытом бета-тестировании, вызывает восторг своими возможностями, но одновременно порождает серьезные вопросы о приватности и безопасности пользователей. Агент, способный управлять электронной почтой, календарем, бронировать столики и билеты, уже называют «магией» и одним из самых захватывающих запусков со времен OpenClaw. Однако тестеры обнаружили тревожные аспекты в его модели безопасности и условиях обслуживания.

Instinct, созданный небольшой командой под руководством бывшего исследователя Sierra Ноя Шинна и базирующийся в Сан-Франциско, подключается к приложениям и устройствам пользователя, получая доступ к почте, мессенджерам, геолокации, экрану и даже клавиатурному вводу. Ассистент может выполнять множество задач: от планирования встреч и вызова такси до поиска дешевых авиабилетов и управления покупками.

Несмотря на впечатляющую функциональность, пользователи обеспокоены условиями обслуживания, которые предоставляют Instinct «бессрочную и безотзывную» лицензию на «доступ, использование, хранение, воспроизведение, передачу, отображение, публикацию, распространение и модификацию» любых пользовательских данных, включая использование их для обучения ИИ-моделей. Документ также разрешает ассистенту заключать от имени пользователя «соглашения, обязательства или транзакции», которые будут иметь юридическую силу.

Некоторые ранние пользователи уже столкнулись с проблемами. Питер Янг обнаружил, что Instinct не удалял его данные из Gmail по запросу (позже команда исправила это, добавив соответствующий инструмент). Клэр Во выяснила, что ассистент продолжал анализировать ее почту даже после отключения доступа, храня письма в открытом виде. Другой тестер был встревожен, когда Instinct самостоятельно использовал код подтверждения из его почты для бронирования столика в ресторане. Соучредитель Hello Patient Алекс Коэн удалил свой аккаунт, узнав, как легко ассистента можно обмануть фишинговой атакой.

Основательница Moxxie Ventures Кэти Джейкобс Стэнтон поделилась, что Instinct подорвал ее доверие, отправив электронное письмо от ее имени без предварительного согласования. «Мы обмениваем приватность и контроль на гиперперсонализированные ИИ-инструменты, часто не до конца понимая цену этого обмена. Чем мощнее становятся такие агенты, тем важнее доверие. Каждое успешное действие зарабатывает немного доверия, но одно несанкционированное действие может обнулить его», — написала она в X.

Майкл Мигнано, основатель Anchor и партнер Union Square Ventures, считает, что такие продукты, как Instinct, изменят «современные нормы безопасности для потребителей», поскольку люди будут передавать пароли сторонним приложениям, не осознавая, что и как те хранят.

На фоне критики команда Instinct пока не ответила на претензии, предпочитая сохранять низкий профиль. По данным TechCrunch, в стартап уже инвестировали Kleiner Perkins и Conviction, хотя официальных подтверждений нет.