Стартап Parasail привлёк $32 млн на развитие облачных вычислений для ИИ-инференса

«Дайте мне токены. Просто дайте мне токены. Я хочу их быстро. Я хочу их дёшево. Я хочу их сейчас».

Такой, по словам генерального директора Parasail Майка Генри, является мантра разработчиков, создающих программное обеспечение на основе генеративных ИИ-моделей. Parasail предоставляет облачный сервис для компаний, запускающих ИИ-модели для инференса (вывода), и, как заявил Генри TechCrunch, генерирует 500 миллиардов токенов в день.

Генри ранее был руководителем в компании Groq, производителе чипов для больших языковых моделей (LLM), где он занимался созданием облачного предложения компании. Это стало ранним осознанием того, что разработчикам ПО на базе ИИ потребуется облачная обработка, специализированная под их нужды. Теперь, спустя год после выхода из скрытого режима, Parasail привлёк 32 миллиона долларов США (~2,6 млн рублей) в рамках раунда финансирования серии A для масштабирования этой деятельности.

Хотя у Генри есть опыт в проектировании физических чипов, Parasail не намерена владеть собственными чипами. Компания в основном арендует вычислительные мощности в 40 дата-центрах в 15 странах мира, а также докупает их на ликвидных рынках, управляя всем этим за кулисами, чтобы снизить стоимость запросов на инференс.

Потенциал компании зависит от продолжающегося распространения открытых моделей и агентов за пределами ведущих лабораторий. В Parasail считают, что этому способствуют растущая стоимость и сложность использования предложений таких компаний, как Anthropic и OpenAI.

«Мы стали больше двигаться в сторону открытых моделей, потому что отправлять сотни тысяч запросов к API-эндпоинту — это довольно тяжело», — рассказал TechCrunch Андреас Штульмюллер, генеральный директор стартапа Elicit, который привлёк 22 миллиона долларов США (~1,8 млн рублей) на разработку ИИ-ассистента для научной литературы. По его словам, формируется гибридная архитектура, где открытые модели выполняют первоначальный отбор, чтобы снизить стоимость работы, а затем более мощная модель от ведущего разработчика даёт окончательный ответ.

Распространение агентов как части разработки ПО стимулирует инвестиции в компании вроде Parasail, которые предоставляют инфраструктуру для дешёвого инференса. Партнёр Touring Capital Самир Кумар, со-лидер этого инвестиционного раунда, заявил, что ожидает, что инференс в будущем будет составлять не менее 20% стоимости создания программного обеспечения.

В переполненном пространстве облачных вычислений Генри утверждает, что его компания выделяется за счёт фокуса исключительно на инференсе (обучение моделей не разрешено) и готовности работать со стартапами без долгосрочных обязательств. Это отличает Parasail от крупных облачных компаний, ориентированных на корпоративный бизнес, и даже от лучше финансируемых конкурентов в области облачного инференса, таких как Fireworks AI и Baseten.

Партнёр Kindred Ventures Стив Джанг, другой со-лидер этого раунда, заявляет, что экономика развёртывания моделей потребует того рода вычислительного брокерства, которое предоставляет Parasail. И это ещё до широкого использования моделей для генерации контента и в робототехнике.

«Все думали, что это пузырь ИИ. Пузыря ИИ нет, — сказал он TechCrunch. — Спрос на инференс намного превышает предложение».

ИИ: Интересно наблюдать, как формируется новая ниша в облачной инфраструктуре, специализированная именно под задачи инференса ИИ-моделей. Подход Parasail, напоминающий агрегатора или «брокера» вычислительных мощностей, может стать эффективным ответом на волатильность спроса и высокие затраты, особенно для молодых компаний. Однако их ставка на стартапы в качестве основной клиентской базы выглядит рискованной в нестабильном секторе ИИ.