Китайские AI-чипы догоняют NVIDIA: достигли 20% от производительности флагманских видеокарт

Индустрия микросхем для искусственного интеллекта предъявляет самые высокие требования к производительности. NVIDIA является лидером в этой области, занимая 90% мирового рынка AI-чипов.

Китайские производители также наверстывают упущенное. Несмотря на то, что экспорт чипа NVIDIA H200 в Китай был разрешён, многие компании не собираются прекращать разработку собственных решений, хотя разрыв в производительности всё ещё велик.

Компания Bernstein провела глобальный обзор AI-чипов, сравнив уровни плотности производительности TPP (Trillion Operations Per Second) у различных производителей. В качестве базового показателя использована видеокарта NVIDIA A100, выпущенная шесть лет назад, однако многие крупные языковые модели до сих пор обучаются на ней.

Преимущество NVIDIA в этой области неоспоримо. Чипы H100 и последующие модели значительно превосходят уровень A100. Новейший B300 может достигать производительности в 60 000 TPP, B200 — 36 000, B100 — около 28 000, а самый продвинутый H200, доступный в Китае, имеет производительность в 15 832 TPP.

Среди других американских компаний AMD, способная конкурировать с NVIDIA, достигла показателя 38400 TPP в модели MI355X. В обзоре не упоминается следующее поколение серии MI450X, производительность которой теоретически должна соответствовать или даже превосходить уровень B200/B300.

Производительность процессоров Intel Gaudi3 серии TPP достигла примерно 30 000, а процессоров Google TPU v7 — около 37 000.

В целом, эти три компании (AMD, Intel, Google) могут достичь 50-80% производительности самых передовых чипов NVIDIA, а их продукты следующего поколения, возможно, даже сравняются с ними.

В Китае производителей AI-чипов больше, чем в США, по меньшей мере 11 из них входят в список. Однако большинство этих стартапов все еще значительно отстают, и лишь немногие могут приблизиться к уровню A100.

К числу компаний, достигающих уровня производительности, сопоставимого с A100, относятся Huawei, Cambricon, Hygon, Baidu и Alibaba. Среди них Huawei, Alibaba и Baidu лидируют по производительности, превышающей 10 000 TPP. AI-чипы от первых двух компаний могут достигать 12 800 TPP, что эквивалентно примерно 20% производительности топовой видеокарты NVIDIA B300. Новое поколение чипов Kunlun от Baidu немного отстает, но также приближается к этому уровню.

Учитывая, что китайские AI-чипы отстают от самых передовых техпроцессов TSMC на 2-3 поколения как по дизайну, так и по производству, быстро улучшить производительность сложно. Это похоже на ситуацию с потребительскими процессорами, которые долгое время будут отставать от продуктов AMD, Intel, Apple и Qualcomm по одноядерной производительности.

Однако эти данные представляют собой лишь сравнения одиночных чипов. На практике производительность систем ИИ нельзя оценивать исключительно по абсолютным показателям. Даже если один чип не может превзойти другой, общая производительность кластера (суперузла) может быть выше. Суперузел Huawei уже доказал осуществимость такого подхода.

Ещё более примечательно то, что китайские AI-чипы развиваются довольно быстро. В ближайшие два-три года, по мере решения проблем массового производства передовых технологий, разрыв в производительности может быстро сократиться. Есть надежда достичь 80% производительности одного чипа NVIDIA, что сопоставимо с нынешними позициями AMD и Google. Тогда, опираясь на другие преимущества для конкуренции, общий уровень развития ИИ в Китае может стать весьма высоким.

Интересный факт: Термин TPP (Trillion Operations Per Second), использованный в анализе, является одним из способов оценки производительности AI-ускорителей, но не единственным. Не менее важными для реальной работы моделей являются пропускная способность памяти (HBM) и эффективность межчиповой коммуникации в кластерах. Именно в этих областях NVIDIA также имеет значительное технологическое преимущество благодаря своей технологии NVLink.