Сокращение дефицита графических процессоров Nvidia H100 AI
NVIDIA Corporation (NASDAQ: NVDA) — американская компания, один из крупнейших разработчиков графических ускорителей и процессоров, а также наборов системной логики. На рынке продукция компании известна под такими торговыми марками как GeForce, nForce, Quadro, Tesla, ION и Tegra. Компания была основана в 1993 году. По состоянию на август 2006 года в корпорации насчитывалось более 8 тысяч сотрудников, работающих в 40 офисах по всему миру. Википедия
Читайте также:TSMC достигла максимального роста квартальной выручки с 2022 годаИлон Маск: для обучения модели Grok 3 нужно 100 000 GPU Nvidia H100Новая модель видеокарты Ventus 3X от MSI пополнила линейку GeForce RTX 4090D для КитаяMSI представляет в Китае новую высококлассную видеокарту NvidiaNvidia ACE поможет оживить неигровых персонажей в играх
Несмотря на сокращение сроков выполнения заказов, Ляо утверждает, что спрос на оборудование с поддержкой искусственного интеллекта по-прежнему чрезвычайно высок. В частности, покупка серверов ИИ вытесняет покупку серверов общего назначения в бизнесе, хотя серверы ИИ невероятно дороги. Однако он считает, что единственной причиной этого является время закупок.
Окно поставки в 2–3 месяца — это самый короткий срок поставки графических процессоров Nvidia H100. Всего шесть месяцев назад сроки выполнения заказов достигли 11 месяцев, а это означает, что большинству клиентов Nvidia пришлось ждать год, чтобы выполнить заказы на графические процессоры для искусственного интеллекта.
С начала 2024 года сроки выполнения заказов значительно сократились. Во-первых, мы увидели огромное сокращение до 3-4 месяцев в начале года. Теперь сроки сократились еще на месяц. При таких темпах мы можем увидеть, что сроки выполнения заказов полностью исчезнут к концу года или раньше.
Такое поведение потенциально является результатом побочных эффектов со стороны некоторых компаний, имеющих излишек графических процессоров H100 и перепродающих часть своих поставок, чтобы компенсировать высокие затраты на обслуживание неиспользуемых запасов. Кроме того, AWS упростила аренду графических процессоров Nvidia H100 через облако, что также помогает частично снизить спрос на H100.
Единственные оставшиеся клиенты Nvidia, испытывающие трудности с поставками, — это крупные компании, такие как OpenAI, которые разрабатывают собственные программы LLM. Этим компаниям нужны десятки и сотни тысяч графических процессоров для быстрого и эффективного обучения своих LLM.
Хорошей новостью является то, что это не должно быть проблемой в течение длительного времени. Если сроки поставок продолжат экспоненциально сокращаться, как это произошло всего за последние четыре месяца, крупнейшие клиенты Nvidia смогут получить в свои руки все необходимые им графические процессоры, по крайней мере теоретически.
0 комментариев