Китайские компании переходят на б/у видеокарты Nvidia после ограничений на H20

Китайская индустрия искусственного интеллекта тихо переходит на восстановленные и подержанные GPU Nvidia после новых ограничений на ускоритель H20, которые оставили клиентов в поиске альтернатив. H20 — это урезанный GPU на архитектуре Hopper, специально разработанный для соответствия экспортным ограничениям США. Он должен был сохранить присутствие Nvidia на китайском рынке. Но чип был фактически отодвинут на второй план после возобновления экспорта H20 в июле, когда китайские регуляторы выразили обеспокоенность безопасностью данных и фактически запретили закупки этого чипа.

Согласно недавнему отчету Digitimes, это привело к резкому росту спроса на более старые карты A100 и H100, поскольку компании разбирают и переконфигурируют их в «низкозатратные, высокопроизводительные» пользовательские системы для инференса.

Почему подержанный кремний работает

Инференс менее требователен к вычислениям, чем обучение. Моделям не требуется полная точность с плавающей запятой, и рабочие нагрузки могут эффективно выполняться на оборудовании, которое было обрезано или переконфигурировано. Именно поэтому даже A100, выпущенный еще в 2020 году, остается ценным в некоторых сценариях использования.

A100 был построен на архитектуре Ampere от Nvidia, с до 80 ГБ памяти HBM2e и пропускной способностью до 2 ТБ/с. Хотя ему не хватает пиковой пропускной способности Hopper, он остается высокоэффективным для задач инференса благодаря большому пулу памяти и зрелой экосистеме программного обеспечения CUDA. Для таких рабочих нагрузок, как чат-боты и системы рекомендаций, разработчики все еще могут достигать рентабельных результатов без передового кремния.

H100, выпущенный в 2022 году, значительно повышает производительность, с памятью HBM3 и до шести раз большей пропускной способностью для обучения ИИ по сравнению с A100. Для сравнения, H20 был настроен для инференса, но настолько агрессивно урезан, что обеспечивает от трех до почти семи раз меньше производительности ИИ, чем полный H100, и более чем в тридцать раз медленнее в задачах суперкомпьютерных вычислений FP64. На практике это делает даже перепрофилированные A100 более привлекательным вариантом для китайских покупателей, чем новый H20.

Поскольку экосистема CUDA от Nvidia по-прежнему не имеет аналогов, более старые карты остаются plug-and-play для разработчиков. И поскольку оборудование для инференса может работать круглосуточно с меньшим риском потери точности, китайские центры обработки данных, очевидно, готовы платить за восстановленные платы, даже если надежность снижается.

Давление на рынок для Nvidia

Эта ситуация ставит Nvidia в странное положение. Компания списала 5,5 миллиардов долларов (440 миллиардов рублей) на непроданные запасы H20, когда Вашингтон ввел лицензионные требования для его экспорта в Китай. И все же, парадоксально, но ее GPU остаются катализатором продолжающегося бума ИИ в Китае. Это палка о двух концах для Nvidia: ее чипы по-прежнему доминируют, но серые рыночные каналы рискуют подорвать маржу и замедлить внедрение новых архитектур.

Серый рынок также крайне проблематичен для Пекина, который стремится к масштабированию собственных конкурирующих компаний, таких как Huawei и Biren. Каждый подержанный, разобранный H100, установленный в китайском центре обработки данных, — это еще одна система, не работающая на ускорителях Ascend, что потенциально может замедлить внутренние инвестиции.

В конечном счете, поток переработанных GPU иллюстрирует непреднамеренные последствия ужесточения экспортного контроля. Американские политики надеялись ограничить доступ Китая к передовым вычислениям, в то время как Пекин стремился ускорить внедрение отечественного кремния. Вместо этого результатом стала экономика переработки, где вчерашние A100 и H100 продолжают питать завтрашние развертывания ИИ.

На данный момент китайская индустрия ИИ обходится прагматизмом, продлевая срок полезного использования старого оборудования Nvidia в ожидании устранения как политических, так и технологических препятствий.

Источник: Tomshardware.com