NVIDIA H200 разрешили продавать в Китай, но ключевая память HBM3E по-прежнему под запретом

Американские власти разрешили экспорт ускорителя NVIDIA H200 в Китай. Эта модель, по сравнению с ранее доступной урезанной версией H20, обладает значительно более высокой производительностью, что важно для обучения и работы больших языковых моделей.

Однако вместе с этим возникает ключевой вопрос: распространяется ли разрешение на высокоскоростную память HBM3e, которую использует этот чип? К сожалению, ответ отрицательный. Запрет на экспорт памяти HBM для китайских компаний остаётся в силе, и её по-прежнему нельзя продавать отдельно.

Ускоритель NVIDIA H200 построен на архитектуре Hopper. Его производительность в операциях с одинарной точностью (FP32) составляет 67 TFLOPS, а с половинной точностью (FP16) достигает 1979 TFLOPS, что в 6 раз больше, чем у H20. H200 также стал первым в мире продуктом с памятью HBM3e объёмом 141 ГБ и пропускной способностью до 4,8 ТБ/с.

До сих пор китайские AI-решения в основном использовали память стандарта HBM2e, чьи характеристики по ёмкости и скорости уже не соответствуют требованиям современных сложных моделей искусственного интеллекта.

Несмотря на то, что HBM3e остаётся недоступной, у компании Huawei уже есть собственные разработки. В сентябре этого года Huawei анонсировала две собственные технологии памяти: HiBL 1.0 и HiZQ 2.0, предназначенные для разных сценариев использования в AI-ускорителях.

Планируемый к выпуску в первой половине следующего года чип Ascend 950PR будет использовать разработанную Huawei технологию HiBL 1.0, которая, по заявлению компании, является более экономичной альтернативой дорогим решениям HBM3e/HBM4e и позволяет снизить затраты на определённые этапы работы AI-систем.

Модель Ascend 950DT, ожидаемая во второй половине 2025 года, получит память HiZQ 2.0. Она обеспечит объём в 144 ГБ, пропускную способность доступа к памяти 4 ТБ/с и увеличит межсоединения до 2 ТБ/с.

В перспективе, чипы Ascend 960 и Ascend 970, запланированные на 2027-2028 годы, должны будут поднять планку ещё выше: до 288 ГБ объёма и пропускной способности 9,6 ТБ/с и 14,4 ТБ/с соответственно.