Savi Security запускает приложение для защиты от реалистичных ИИ-мошенников, включая подделку голоса при «похищениях»

Братья Патрик и Райан Кафлин, имеющие впечатляющий опыт работы в технологической индустрии (Патрик работал в сфере национальной кибербезопасности, а также в Splunk и Cisco; Райан — над потребительскими продуктами в Apple и Spotify), запустили стартап в сфере безопасности нового типа.

Savi Security нацелена на защиту обычных людей от новой волны невероятно убедительных мошеннических схем с использованием ИИ, которые распространяются через текстовые сообщения, электронные письма или телефонные звонки.

Компания только что привлекла $7 млн (около 560 млн рублей) начального финансирования и во вторник запускает свое приложение для iPhone и Android. Раунд возглавила Acrew Capital, при участии Magnify Ventures, TTCER и Resolute Ventures.

Вдохновением для создания компании послужил ужасающий инцидент, произошедший с матерью основателей.

Около двух лет назад мать Патрика Кафлина позвонила ему в расстроенных чувствах, рассказав, что только что получила звонок от мужчины, который утверждал, что похитил сестру Патрика. В то время Патрик был старшим вице-президентом по продуктам безопасности в Cisco. (Он оказался там после того, как Splunk купила его стартап в области облачной безопасности TruSTAR, по слухам, за $82 млн (около 6,56 млрд рублей) в мае 2021 года. В 2024 году Cisco купила Splunk.)

По словам Кафлина, на ее мобильный телефон поступил звонок с определителем номера ее дочери. Во время этого разговора, «ей кажется, что она слышит голос моей сестры, говорящей: "Мама, они схватили меня". Раздается душераздирающий крик, а затем моя сестра говорит: "Ты должна сделать то, что они тебе скажут". А потом к телефону подходит мужчина и говорит: "Если ты не заплатишь нам $1,200 (около 96 000 рублей) прямо сейчас, мы убьем твою дочь на парковке местного Walmart"», — продолжил он.

Мошенник точно подделал номер телефона сестры Кафлина, ее голос и упомянул местоположение Walmart, который она часто посещала.

К счастью, мать сохранила самообладание, позвонила дочери и выяснила, что с ней все в порядке. Похищение оказалось мошеннической схемой, сгенерированной ИИ.

Кафлин, как и его мать, был потрясен.

«О чем я думал, успокоив маму: что фундаментально изменилось в подпольной киберпреступной экономике, что теперь мы можем использовать тот же уровень сложности, который я видел направленным на правительственные учреждения, а затем на компании из списка Fortune 500? И теперь мы развертываем эту сложность против потребителей?»

Ответ, конечно же, — дешевые и мощные LLM и другие инструменты генеративного ИИ.

До появления ИИ преследовать такие аферы в отношении потребителей было финансово невыгодно. Это потребовало бы глубокого изучения цели, технологий подделки голосов и так далее. Такие атаки были нацелены в первую очередь только на крупных игроков, таких как предприятия или правительства, как и технологии защиты от них.

«Сейчас происходит нечто, что касается потребителей, когда ИИ находится в руках киберпреступников», — говорит Кафлин. Затраты на совершение таких махинаций стали ничтожными, а материалы для исследования — легкодоступными.

«Вы можете клонировать голос из трех секунд аудио, из общедоступного поста в социальных сетях. Так что у всех нас есть эти следы информации, которая находится в эфире — например, где мы говорим или комментируем; комментируем футбольный матч ребенка, снимая его на видео, и выкладываем это на Facebook».

FTC на прошлом месяце сообщила, что люди, сообщающие об онлайн-преступлениях, в совокупности потеряли $3,5 млрд (около 280 млрд рублей) из-за мошеннических схем с выдачей себя за других в 2025 году, что в три раза больше, чем в 2020 году. Хотя большинство людей, сообщающих о таких аферах, — пожилые американцы, некоторые исследования показывают, что поколение Z также весьма восприимчиво. Исследование 2025 года, проведенное Malwarebytes, показало, что поколение Z чаще других становилось целью текстовых мошенничеств и попадалось на них примерно в 25% случаев.

Идеей братьев Кафлин была разработка инструмента вмешательства в реальном времени.

Они протестировали свою идею и модель обнаружения мошенничества с помощью ИИ, запустив бесплатный сайт под названием Scamwise. Он анонимный, регистрация не требуется. Просто загрузите любые подозрительные тексты, фотографии или электронные письма, и Scamwise определит, вероятно ли, что они фальшивые.

«Мы запустили его около четырех месяцев назад. У нас было 50 000 заявок, и сейчас он растет примерно на 10 000 заявок в неделю или больше», — сказал Кафлин, добавив, что по состоянию на вторник количество заявок достигло 100 000.

Scamwise стал источником реальных данных для обучения модели обнаружения мошенничества Savi. Стартап в основном использует Google Gemini, но построил свое программное обеспечение на AI-шлюзе, который позволяет при необходимости подключать другие модели ИИ, например, специализированные для распознавания голоса.

Во вторник Savi запустила платный продукт — приложение для iOS и Android для потребителей, которое может проверять текстовые сообщения, голосовую почту и входящие звонки на предмет мошенничества.

Такие функции доступны во многих различных продуктах (например, Malwarebytes), но самая впечатляющая функция Savi — это мониторинг звонков в реальном времени.

Во время подозрительного телефонного разговора пользователь может добавить приложение в качестве слушателя. Savi прослушивает поведенческие признаки, которые могут идентифицировать, является ли ситуация аферой, пока звонок продолжается.

Тарифы Savi также несколько необычны. Она взимает $8 в месяц (около 640 рублей) со скидкой до $63 в год (около 5040 рублей) для покрытия всей семьи, без ограничения по количеству пользователей. Таким образом, один план может охватывать детей, супруга, родителей и того дядю, которому всегда нужна техническая поддержка. Или любого другого, кого владелец основного аккаунта захочет добавить и оказывать административную поддержку.

ИИ изменил условия для того, «насколько доступным стало быть мошенником», — сказал Кафлин. ИИ «создает мошенников», потому что «снижает барьер для обмана людей. Так что теперь у нас есть не только организованные преступники и стоящие за этим синдикаты, но и обычные люди как бы соблазняются возможностью заняться мошенничеством».

Ответ Savi Security — это своего рода новое поколение антивирусного программного обеспечения: оно использует ИИ в реальном времени для защиты людей, даже когда злоумышленники используют его, чтобы попытаться их обмануть.

* Meta, Facebook и Instagram запрещены в России.