Стартап AIR привлек $50 млн для проверки навыков и дополнений ИИ-агентов

Стартап AIR, специализирующийся на безопасности ИИ, вышел из тени и объявил о привлечении $50 млн (около 4 млрд рублей) в двух раундах посевного финансирования для создания платформы, которая поможет компаниям проверять навыки и дополнения, используемые ИИ-агентами.

По мере того как компании предоставляют ИИ-агентам доступ к растущей части своих систем, вокруг новых инструментов формируется цепочка поставок: навыки, плагины, MCP-серверы и дополнения, позволяющие агентам взаимодействовать с интернетом. AIR считает, что компаниям понадобится способ контролировать эту цепочку.

Основанная ветеранами израильского разведывательного корпуса «Единица 8200» Яиром Сабаном (генеральный директор) и Нивом Хоффманом (технический директор), компания AIR предлагает платформу, которая обнаруживает работающих внутри компаний агентов, непрерывно проверяет используемые ими навыки, инструменты и компоненты, а также блокирует взаимодействие с программным обеспечением и внешними источниками, не прошедшими проверку безопасности. Также запущен маркетплейс проверенных дополнений и навыков для ИИ-агентов.

Раунды финансирования закрылись в течение нескольких недель друг за другом: первый принес $10 млн (около 800 тыс. рублей), второй — $40 млн (около 3,2 млрд рублей). Первый раунд возглавила Sequoia, второй — Greenoaks. Среди инвесторов также Swish, Netz, Зак Френкель (президент Cognition), Йинон Костика (сооснователь Wiz), Офир Эрлих (сооснователь Eon), Энн Нойбергер, Омер Адам, Варун Ананд (сооснователь Clay) и другие бизнес-ангелы.

Идея AIR заключается в том, что массовое использование ИИ-агентов в компаниях начинает напоминать операционные системы, но используемые ими инструменты и устанавливаемое программное обеспечение еще не получили такого же контроля, как драйверы или приложения.

«В начале 2000-х при установке драйвера он не требовал подписи. Сегодня при установке драйвера вы видите подпись, указывающую, кто его подписал, потому что драйвер загружает код в ядро, — отметил Сабан. — У вас нет этого для навыков, плагинов или MCP, и это обидно, потому что механизм тот же, урок тот же, но мы его не усвоили».

Главный риск, по его словам, заключается в том, что по мере роста автономности ИИ-агентов при работе с базами данных, корпоративными системами и интернетом злоумышленники могут отравлять контент, который потребляет агент, вместо прямой атаки на него.

Стартап решает эту проблему с помощью продукта для видимости, который находит активных агентов в среде компании и выявляет сотрудников, использующих не одобренные IT-отделом ИИ-инструменты или личные учетные записи. Затем используется уровень принуждения, который подключается к агентам для перехвата и анализа действий, таких как загрузка навыка или получение контента из интернета. Наконец, AIR проверяет инструменты, дополнения и программное обеспечение, которые агент хочет использовать, по белому списку, поддерживаемому стартапом.

Сабан утверждает, что компания поддерживает этот белый список, оценивая открыто доступные в интернете навыки и дополнения на предмет изменений и вредоносного поведения, поскольку ранее одобренный навык может стать рискованным, если изменится загружаемый им пакет или будет скомпрометирован аккаунт разработчика. По его словам, платформа AIR в настоящее время отфильтровывает около 27% дополнений и навыков, найденных в интернете.

У AIR более 20 клиентов, примерно четверть из которых — крупные предприятия. Наибольший спрос наблюдается в строго регулируемых отраслях, особенно в финансовых услугах и фармацевтике.

В этой сфере у AIR есть конкуренты: Noma Security предлагает обнаружение, контроль доступа и мониторинг в реальном времени для агентов, MCP-серверов и навыков; Zenity продает инструменты безопасности и управления; Astrix Security позволяет обнаруживать и контролировать агентов и MCP-серверы; Operant AI предлагает защиту агентов и MCP-шлюз. Венчурные инвестиции в эту категорию значительны: Zenity привлекла $125 млн в августе, а Noma — $100 млн в прошлом году.

Сабан считает, что преимущество AIR заключается в способности непрерывно проверять экосистему навыков и дополнений, растущую вокруг ИИ-агентов. «Непрерывная проверка навыков и сайтов плагинов — это сложная задача. Получение видимости на конечной точке — легко. Это сделают все. Вокруг этого сложно создать преимущество», — сказал он.

Хотя генеральный директор признал, что ИИ-лаборатории и провайдеры со временем встроят проверки безопасности и политики для фильтрации вредоносных навыков и инструментов, он считает, что компании все равно захотят покупать независимый продукт, работающий с разными поставщиками.

«Это не проблема сканирования, это проблема непрерывной повторной проверки, — заявил Богомил Балкански, партнер Sequoia. — Проверка каждого навыка, плагина, MCP-сервера и субагента, которых касаются агенты предприятия, повторная проверка каждого из них при каждом изменении в реальном времени и во всем парке агентов компании — это инфраструктурная проблема задолго до того, как она станет проблемой безопасности. AIR потратила последний год на создание этого конвейера. Вы не догоните их, написав лучший сканер».

В AIR работает около 40 сотрудников. Сабан сообщил, что новый капитал будет направлен в первую очередь на найм исследователей и расширение коммерческих усилий в США и Европе.