Salesforce и Nvidia представили reasoning-модель Koa — то, чего должны бояться все ИИ-лаборатории

На конференции Dreamforce компания Salesforce представила новую модель ИИ под названием Koa, разработанную совместно с Nvidia. Это первая reasoning-модель Salesforce, созданная на базе открытой модели Nemotron от Nvidia. Обе компании совместно дообучили Koa для выполнения задач в области продаж, маркетинга и поддержки клиентов.

Koa — яркий пример того, как потребности корпоративного сектора в ИИ расходятся с тем, что предлагают передовые лаборатории. Проприетарные лаборатории предпочитают, чтобы предприятия загружали файлы, код, промпты и обратную связь непосредственно в их модели и агентов, тратя на это миллионы долларов.

Однако с этой моделью Salesforce предлагает своим корпоративным клиентам:

• открытую альтернативу закрытым фронтирным моделям;
• модель, обученную для конкретных рабочих задач (а не для решения неразрешимых математических проблем);
• модель, которая не использовала реальные данные клиентов и поэтому не может их утечь;
• модель, помогающую сократить расходы на ИИ, поскольку она использует меньше токенов для той же работы;
• модель, которая может автоматически маршрутизироваться через ИИ-«шлюз» в зависимости от потребности;
• модель, соответствующую всем требованиям клиентов к данным и безопасности, встроенным в Salesforce.

Koa будет предоставляться как альтернатива другим моделям, которые Salesforce предлагает на своей платформе Agentforce, где клиенты создают агентов для выполнения рутинных задач, таких как ответы на вопросы службы поддержки или планирование встреч.

«Мы создали множество небольших языковых моделей для конкретных задач, которые являются частью портфеля Agentforce, — рассказал TechCrunch Джайеш Говиндараджан, исполнительный вице-президент по ИИ в Salesforce. — Но reasoning всегда был тем, для чего мы полагались на провайдеров фронтирных моделей. До сих пор».

До Koa, если агенту требовалось рассуждать над длительной или многошаговой задачей, эти промпты направлялись во фронтирную модель вроде Claude или ChatGPT через ИИ-шлюз Agentforce (систему, которая решает, какая модель обрабатывает какой запрос).

«Одна из причин, по которой мы не делали этого раньше — не обучали собственную фронтирную модель корпоративного уровня, — хотя всегда хотели, — это отсутствие предобученной базовой модели для старта. До появления Nemotron не существовало суверенной американской предобученной модели, которая, во-первых, была бы доступна, во-вторых, была бы передовой, и, в-третьих, имела бы чёткое происхождение данных. Мы понятия не имеем, на чём обучается Qwen», — сказал Говиндараджан, имея в виду популярную китайскую открытую модель от Alibaba.

Дообучение такой модели означает превращение её из универсальной системы в систему, хорошо разбирающуюся в продажах и поддержке клиентов. Для этого Salesforce и Nvidia не использовали реальные данные клиентов Salesforce. Вместо этого они создали синтетические данные, имитирующие поведенческие паттерны клиентов.

«Мы фактически смоделировали среду обслуживания клиентов с персонажем-профессионалом поддержки, включая разгневанных клиентов, звонящих в службу поддержки, вплоть до продавца, пытающегося закрыть сделку», — описал Говиндараджан.

Koa призвана лучше справляться с рабочими задачами, которые клиенты Salesforce хотят поручить агенту, — и дешевле, с точки зрения затраченных токенов, чем отправка тех же задач в Claude или ChatGPT.

С Nemotron «у нас есть уникальная архитектура для вывода, обеспечивающая эффективность по токенам, — сказала TechCrunch Кари Энн Бриски, вице-президент Nvidia по программному обеспечению генеративного ИИ для предприятий. — Это своего рода трифекта того, что вам нужно: суверенный ИИ, время до первого токена, эффективный reasoning — всё ради токеномики».

Однако Salesforce не отказывается от Anthropic или OpenAI. Компания только что объявила о партнёрстве с Anthropic под названием Claudeforce, которое позволяет компаниям использовать Claude в качестве своего ИИ-интерфейса, при этом их данные остаются в системе учёта Salesforce, защищённые её инфраструктурой.