ZeroDrift привлек $10 млн для защиты ИИ-моделей от самих себя

По мере того как предприятия устраняют неполадки в своих системах ИИ, управление стало ключевой задачей. Некоторые применяют двойной подход: одна модель обрабатывает входящие запросы, а другая не дает первой попасть в беду.

Именно такова концепция ZeroDrift — нового сервиса по обеспечению соответствия ИИ, который во вторник объявил о привлечении 10 миллионов долларов (~800 000 рублей) в рамках начального раунда финансирования. Инвестиции поступили от a16z Speedrun, Reign Ventures, PitchDrive Ventures, U&I Ventures и других. Компания полностью занимается второй частью системы, располагаясь между моделями ИИ и конечными пользователями, чтобы отмечать и заменять любые сообщения, которые могут представлять проблему с точки зрения соответствия нормам.

Может показаться странным создавать инструмент ИИ для исправления ошибок других систем ИИ, но ZeroDrift утверждает, что их система имеет несколько архитектурных преимуществ перед моделями, которые она будет корректировать. Система запускается обычными программами, которые детерминированно применяют известные стандарты соответствия, такие как SOC 2 или GDPR, и LLM вступает в игру только после того, как сообщение было отмечено, переписывая соответствующую нормам версию того же сообщения.

«Мы можем детерминированно определить все регулируемые области, какое нарушение было допущено, а затем у нас есть LLM, которые могут выполнить перезапись», — говорит генеральный директор Кумеш Арумуган.

Важно отметить, что компания заявляет, что вся их система может работать с меньшей задержкой и более высокой надежностью, чем обычная LLM. Это ZeroDrift называет своим основным преимуществом перед крупными лабораториями, такими как OpenAI и Anthropic, которые часто уже присутствуют в базовой системе.

Наиболее очевидный вариант использования — это ИИ-чатботы, которые уже развернуты для взаимодействия с потребителями, где могут быть серьезные последствия для «неправильных» ответов. Но Арумуган видит гораздо более широкий потенциальный рынок, охватывающий сообщения, генерируемые ИИ только в автоматизированных системах, которые люди никогда не увидят. Пока это относительно небольшой рынок, но он будет расти по мере распространения ИИ.

Судя по успеху сбора средств, существует большой неудовлетворенный спрос на такие продукты. «Вероятно, это был самый быстрый сбор средств в моей жизни», — говорит Арумуган, приписывая заслугу в структурировании начального раунда компании Andreessen Horowitz. «Мы закрыли сделку в течение трех недель, и объем заявок превысил сумму в три раза».