Стартап DetectifAI создал встроенную в смартфон систему обнаружения дипфейковых голосов

Когда раздался звонок, дедушка Тарини Падманабхуни был уверен, что говорит со своим братом. Голос на другом конце провода сообщил, что его похитили, и единственный способ вернуть его — заплатить выкуп. Дедушка заплатил, а позже узнал, что его брат находился совсем в другом месте и понятия не имел о происходящем. Как выяснилось, голос был дипфейком — имитацией, сгенерированной искусственным интеллектом.

«Меня поразило не то, что он потерял деньги, — говорит Падманабхуни об этом случае. — А то, что у него не было никакой возможности распознать обман».

Это произошло около двух лет назад. Сегодня, по её словам, DetectifAI — основанная ею компания из Сан-Франциско — стремится сделать так, чтобы другие не попались на ту же удочку.

Проблема масштабная и растёт, как и рынок вокруг неё. По данным ФБР, в прошлом году американцы потеряли почти 900 миллионов долларов (около 72 миллиардов рублей) из-за мошенничества с использованием ИИ — на 24% больше, чем в 2024 году. Люди старше 60 лет потеряли вдвое больше, чем те, кому от 50 до 59.

Конкуренция в области обнаружения дипфейковых голосов велика: здесь работают такие компании, как Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety и Nuance (которой также владеет Microsoft). Однако современные системы обнаружения работают в облаке на удалённых серверах, поэтому производители телефонов не могут встроить их напрямую в свои устройства, говорит Падманабхуни, — и человек, против которого направлена атака, остаётся практически без защиты.

Вместо того чтобы уменьшать большие облачные модели для работы на телефоне, как делают некоторые компании, DetectifAI, по её словам, с самого начала проектирует компактные ИИ-модели, достаточно малые, чтобы работать внутри операционной системы смартфона. Цель — мгновенно определять, сгенерирован ли голос ИИ, во время звонков, в голосовых сообщениях и других аудио, причём аудио никогда не покидает устройство.

DetectifAI в первую очередь продаёт свою технологию производителям телефонов, лицензируя программные инструменты, чтобы обнаружение дипфейков могло поставляться как встроенная функция операционной системы. Падманабхуни сравнивает это с ролью AT&T при запуске оригинального iPhone, когда эксклюзивное соглашение с оператором выделило его среди конкурентов: первый производитель телефонов, который внедрит DetectifAI, получит преимущество перед соперниками.

Ядро продукта — комплект для разработки программного обеспечения (SDK) DetectifAI: пакет кода, который другие компании могут встраивать в свои продукты и лицензировать через существующие каналы. По словам Падманабхуни, дополнительный источник дохода — лицензирование технологии бизнесу и компаниям, занимающимся предотвращением мошенничества.

Тем временем у стартапа уже есть первые доходы, утверждает Падманабхуни, и он обрабатывает более 100 000 звонков в месяц для финансовых учреждений в Индии. Эти звонки совершают голосовые ИИ-агенты, которые занимаются взысканием задолженностей и напоминают о кредитных документах, при этом на каждом звонке работает обнаружение дипфейков и верификация говорящего (подтверждение того, что звонящий — тот, за кого себя выдаёт). Падманабхуни отказалась назвать клиентов, сославшись на соглашения о конфиденциальности.

Падманабхуни рассказывает, что начала заниматься машинным обучением в 12 лет, а позже изучала киберфизические системы (технологии, связывающие программное обеспечение с физическими механизмами) в Манипальском технологическом институте в Индии, где, по её словам, стала самым молодым руководителем команды — как она описывает, первого в Индии подразделения беспилотных гоночных автомобилей в рамках Formula Student, международного студенческого инженерного соревнования.

На данный момент DetectifAI привлекла небольшую посевную сумму от инвесторов Джоша Констина (бывшего редактора TechCrunch) и Манохара Камата, партнёра консалтинговой фирмы KM Growth. Компания вошла в число стартапов, отобранных редакцией TechCrunch для участия в престижном конкурсе Startup Battlefield, который пройдёт с 13 по 15 октября на конференции TechCrunch Disrupt в центре Сан-Франциско.

Цены сконвертированы автоматически по актуальному курсу, реальные значения могут отличаться.