NVIDIA демонстрирует подавляющее преимущество в тестах MLPerf Inference v6.0

NVIDIA одной из первых опубликовала подробные результаты тестов MLPerf Inference v6.0, продемонстрировав огромное преимущество над отраслевыми конкурентами. Согласно официальным данным, сочетание чипов Blackwell Ultra с передовой архитектурой проектирования систем позволило достичь наивысшей пропускной способности и самой низкой стоимости обработки одного токена.

Результаты американского производителя в задачах машинного обучения превосходят достижения ближайших соперников даже в девять раз, что красноречиво подчеркивает позицию компании на рынке передовой вычислительной инфраструктуры. В последней версии тестов организация MLCommons добавила поддержку более современных моделей ИИ, включая DeepSeek-R1, GPT-OSS-120B и Mixtral 8x7B. Расширенный пакет также фокусируется на продвинутых языковых, визуальных и генеративных рекомендательных системах, точнее отражая современные потребности крупных корпораций. Генеральный директор компании Дженсен Хуанг прямо называет это сравнение одним из самых требовательных и нагруженных на рынке.

В серверном сценарии для требовательной модели DeepSeek-R1 конфигурация GB300 NVL72 достигла впечатляющего результата в 8064 токенов в секунду на один процессор. Это означает скачок производительности на 177 процентов по сравнению с предыдущей итерацией программного обеспечения, и это без внесения аппаратных изменений. Рост более чем на 50 процентов был также зафиксирован в тесте на основе модели Llama 3.1 405B.

Представители производителя подчеркивают, что итоговая пропускная способность — это результат тщательной оптимизации микросхем, архитектуры серверных узлов и мощной базы в виде отточенного программного обеспечения. Последовательные обновления позволили заметно ускорить работу платформы и значительно снизить совокупную стоимость владения и обслуживания мощной вычислительной инфраструктуры.

NVIDIA была единственной, кто опубликовал точные данные для модели DeepSeek-R1 в прошлом году, и новая итерация стандарта подтверждает сохранение лидерства. Прозрачный подход к демонстрации фактических возможностей собственного оборудования вызывает большое уважение в сообществе инженеров. Чрезвычайно высокий порог входа, устанавливаемый средой MLPerf, приводит к тому, что многие другие создатели процессоров до сих пор избегают столь широкой проверки своих продуктов, уступая тем самым рыночное пространство лидеру.

ИИ: Результаты действительно впечатляют и показывают, насколько NVIDIA ушла в отрыв в сфере аппаратного ускорения для ИИ. Такое доминирование, с одной стороны, двигает технологии вперед, но с другой — вызывает вопросы о здоровой конкуренции на рынке. Прозрачность NVIDIA в тестах MLPerf — это сильный ход, который заставляет других игроков либо соответствовать, либо искать нишевые решения.