NVIDIA DGX Spark: тесты производительности мини-суперкомпьютера для ИИ разочаровали

Мини-суперкомпьютер NVIDIA DGX Spark с функциями искусственного интеллекта после нескольких месяцев задержек официально поступил в продажу по стартовой цене 3999 долларов США (около 320000 рублей).

Характеристики DGX Spark выглядят впечатляюще. Система использует процессор GB10 Grace + Blackwell SuperChip. Центральный процессор построен на 20-ядерной архитектуре ARM, состоящей из 10 ядер Cortex-X925 и 10 ядер Cortex-A725. Графический процессор использует архитектуру Blackwell с производительностью FP4, достигающей 1 ПФЛОПС, и включает ядро Tensor пятого поколения, а также ядро трассировки лучей RT четвёртого поколения. Общие характеристики эквивалентны RTX 5070.

Объём памяти составляет 128 ГБ LPDDR5X с 256-битной шиной, максимальной частотой 9400 МГц и пропускной способностью около 301 ГБ/с. Такая конфигурация позволяет запускать большие модели ИИ с 200 миллиардами параметров или точно настроенные модели с 70 миллиардами параметров.

В тестах производительности DGX Spark запускал несколько моделей, включая Deepseek R1, Llama-3 и Gemma-3. Скорость обработки Llama-3.1-8b составила 36 токенов в секунду, тогда как R1 выдавала 20 токенов.

Для сравнения: производительность флагманской игровой видеокарты RTX 5090 составляет 200 и 114 токенов соответственно, что в 3-5 раз выше, при этом её цена примерно в два раза ниже. Производительность Apple M4 Pro составляет 34 и 18 токенов при аналогичных задачах, что сопоставимо с DGX Spark, но стоимость систем на его основе начинается от 1400 долларов США.

Результаты тестов показывают, что хотя DGX Spark способен работать с большими моделями ИИ, его производительность оказалась ниже ожиданий. Основным ограничением, вероятно, является пропускная способность памяти. Устройство значительно уступает топовым игровым видеокартам и сопоставимо по производительности с Mac Mini на чипе Apple M4 Pro, при этом стоит в три раза дороже.

NVIDIA традиционно занимает лидирующие позиции в области аппаратного обеспечения для ИИ, однако в сегменте компактных систем компания сталкивается с растущей конкуренцией. В 2024 году Apple представила чипы M4 с улучшенным нейропроцессором, а AMD и Intel также активно развивают направления AI-PC.