Mistral представила модель Mistral Large 4 с триллионом параметров

Французская лаборатория искусственного интеллекта Mistral AI представила новую крупную мультимодальную модель Mistral Large 4 (ML4), которая, по замыслу разработчиков, должна обойти как американских, так и китайских конкурентов. Президент Франции Эммануэль Макрон ранее описывал такой подход как «третий путь в сфере ИИ».

На фоне растущего разрыва между закрытыми моделями, которые можно в любой момент отключить, и открытыми моделями, зачастую создаваемыми в Китае, Mistral позиционирует ML4 как альтернативу обоим лагерям. Модель получила прозвище Le Chonk в честь своего триллиона параметров. На данный момент ML4 не является моделью с открытыми весами: доступ к ней возможен только через публичный защищённый эндпоинт. Однако Mistral планирует открыть веса уже через три недели, после завершения проверок безопасности.

«Тем временем мы будем работать с доверенными партнёрами и правительствами, чтобы убедиться, что открытые веса можно использовать для защиты, а не для вредоносных атак», — заявил вице-президент Mistral по науке Пьер Сток в интервью TechCrunch.

В последние месяцы опасения по поводу безопасности усилились, особенно среди ключевой аудитории Mistral — предприятий и государственных учреждений. В то же время модель с открытыми весами проще проверять и аудировать, отметил Сток.

Ещё один важный момент, оставшийся за кадром: ML4 обучалась полностью на собственных вычислительных мощностях Mistral, задействовав лишь 4000 графических процессоров Nvidia. «Это в два-три раза меньше, чем у наших китайских конкурентов, и значительно меньше, чем у конкурентов с закрытым исходным кодом», — подчеркнул Сток.

Результаты бенчмарков пока не опубликованы, но Mistral надеется, что ML4 станет лучшей в своём классе среди моделей с открытыми весами, особенно за пределами Китая. Благодаря целенаправленному обучению модель может превзойти закрытые аналоги в специфических областях, критически важных для клиентов компании, где мультимодальные возможности дают дополнительную ценность.

По словам Стока, оптимизированные сценарии использования ML4 включают кибербезопасность и финансы, а также проектирование чипов — направление, ключевое для двух главных инвесторов Mistral: нидерландского гиганта ASML, возглавившего раунд Series C, и Samsung, возглавившей раунд Series D в прошлом месяце при оценке компании в 21 млрд евро (около 1,89 трлн рублей).

Тогда компания пыталась донести, что решение размещать китайские модели не означает превращение в простого поставщика инференса. С Le Chonk в своём арсенале Mistral по-прежнему считает себя фронтирной лабораторией.

Цены сконвертированы автоматически, реальные значения могут отличаться.