Ramp запустила собственный маршрутизатор ИИ-моделей Router

Платформа корпоративного управления расходами Ramp запустила собственный сервис-маршрутизатор для ИИ-моделей под названием Router. Компания следует по стопам Stripe, создавая «платные шлагбаумы» для ИИ-инференса.

Router позволяет пользователям и компаниям через API использовать и переключаться между различными большими языковыми моделями. В Ramp заявляют, что используют собственный маршрутизатор для своих нужд в сфере ИИ уже три года.

Сервис доступен только в США. До конца 2026 года им можно пользоваться бесплатно (пользователям всё равно придётся платить за вычислительные мощности), а при запуске предоставляется кредит в размере 26 долларов (~2080 рублей). Компания не сообщила, сколько будет стоить сервис в следующем году.

Router работает аналогично OpenRouter, хотя последний предлагает гораздо больше вариантов ИИ-моделей, чем текущий ассортимент Ramp.

Router предоставляет доступ к моделям OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI и Z.ai. Также доступны несколько «стратегий», помогающих клиентам направлять запросы к моделям в зависимости от их предпочтений. Например, одна позволяет задать приоритет гибким тарифным уровням провайдеров, а другая — выбирать модель на основе до трёх заданных пользователем бенчмарков. Пользователи также могут направлять только сложные задачи на дорогие модели или легко тестировать модели без переключения.

В сервисе есть панель управления, где можно отслеживать расход токенов, стоимость, задержку, попытки резервного переключения и другие детали.

Примечательно, что Router имеет политику хранения данных с возможностью отказа: по умолчанию он записывает входные и выходные данные моделей и вызовы инструментов в течение года, хотя компания утверждает, что удалит «личную информацию перед использованием этого контента для улучшения продукта».

Для Ramp выход на рынок маршрутизации моделей открывает двойную возможность: доступ к быстрорастущему рынку ИИ-инференса и предложение существующим клиентам сервиса, который хорошо вписывается в текущие продукты, включая мониторинг использования токенов и управление расходами на них.

Если Router окажется столь же привлекательной площадкой для тестирования моделей, как OpenRouter, Ramp сможет выстроить долгосрочные отношения с ИИ-лабораториями и провайдерами инференса по всему миру. Это может помочь компании, которая в июне привлекла 750 миллионов долларов (~60 миллиардов рублей) при оценке в 44 миллиарда долларов (~3,52 триллиона рублей), получить новых клиентов и новую точку входа для продажи своих продуктов по управлению расходами.