Китайские GPU демонстрируют неожиданные результаты в сравнении с видеокартами NVIDIA

Китайские GPU продолжают демонстрировать прогресс. Недавно компания Moore Threads (摩尔线程) представила чип, производительность которого сравнима с NVIDIA RTX 4060, а ранее компания Moore Threads также выпускала высокопроизводительные GPU, которые показали хорошие результаты не только в играх, но и в сфере искусственного интеллекта.

В области ИИ лидером остаются GPU NVIDIA благодаря аппаратной архитектуре и экосистеме CUDA, которые создают почти непреодолимый барьер. Но насколько велик разрыв между китайскими GPU и решениями NVIDIA? Этот вопрос вызвал много споров. Пользователь Zhihu @菽陌松囿, работающий в отрасли, провел тесты и опубликовал данные, которые могут служить ориентиром.

Согласно его данным, GPU Moore Threads демонстрирует следующие показатели:

• kernel launch — 5 микросекунд (у NVIDIA — десятки микросекунд);
• gemm mfu — 98% (у NVIDIA — около 85%);
• FA mfu — 95% (у NVIDIA — 68%).

Также он отметил некоторые недостатки видеокарт NVIDIA, например, отсутствие оптимизации для коммуникации offload ace. По его словам, 15% вычислительных блоков (SM) у NVIDIA фактически простаивают.

Конечно, GPU Moore Threads тоже не идеальны — например, поддержка Link ограничена аппаратными возможностями, но это не является критичным препятствием.

Он подчеркнул, что эти данные были проверены инженерами и являются достоверными. Результаты оказались неожиданными и даже обнадеживающими.

В целом, эксперт считает, что GPU Moore Threads полностью переписали с нуля — от аппаратной части до библиотек операторов, что опровергает мнение о том, что китайские решения просто копируют зарубежные технологии.

Подробнее о тестах можно узнать в официальной статье Moore Threads, хотя там нет прямого сравнения с NVIDIA. Данные, предоставленные @菽陌松囿, позволяют оценить разницу в производительности в сфере ИИ. Это не означает, что китайские GPU превосходят NVIDIA во всем, но и утверждения о том, что они просто используют зарубежные IP-решения, тоже неверны.