Преимущество Nvidia в ИИ выходит за рамки GPU
До этой недели доминирующая история об Nvidia выглядела примерно так: в первые несколько лет бума ИИ Nvidia была единственным источником самых современных GPU, которые стали чрезвычайно прибыльными по мере масштабирования индустрии. За последние несколько лет гиперскейлеры, такие как Amazon и Google, начали создавать собственные чипы, и Nvidia больше не единственный игрок на рынке, что заставляет многих инвесторов задаваться вопросом, насколько прочным является ее преимущество.
Это убедительная история, и по большей части правдивая. После того как рыночная капитализация компании выросла в 10 раз с начала 2023 года до середины 2025-го, акции Nvidia в течение последнего года росли более умеренными темпами из-за опасений по поводу конкуренции на рынке GPU.
Новая тенденция сформировалась после публикации финансовых результатов компании в среду, и инвесторы начинают осознавать, что преимущество Nvidia выходит далеко за рамки GPU. По мере того как вычислительные мощности ИИ вырастают до гигаваттного масштаба, оркестрация становится все более сложной задачей. Неудивительно, что Nvidia создала значительную часть самого современного оборудования, необходимого для решения этой задачи, что дает компании огромное преимущество в системах, окружающих GPU, даже несмотря на усиление конкуренции в самих GPU.
Несмотря на все разговоры о вычислениях как о товаре, по-прежнему невероятно сложно управлять мегамасштабным центром обработки данных с пиковой эффективностью — и по мере того как развертывания становятся больше и быстрее, эта задача только усложняется.
Стойка за стойкой
Частично это можно увидеть, просто взглянув на детали того, что Nvidia на самом деле продает. Компания в настоящее время развертывает свою архитектуру Vera Rubin, которая объединяет GPU Rubin с набором других устройств, включая CPU Vera, ускоритель логического вывода Groq 3 LPX и аналогичные стойки для хранения данных и сетевого взаимодействия.
На прошлой неделе я общался с сотрудниками Nvidia о том, что на самом деле делают эти системы, и результаты оказались неожиданными. Как и сам GPU Rubin, это узкоспециализированные системы, но вместо обработки токенов они обеспечивают максимально эффективную работу всего, что находится за пределами GPU. Если GPU — это двигатель, то они — остальная часть автомобиля.
CPU Vera в частности сосредоточен на проблеме оркестрации данных. «Vera важна, потому что в один сервер или любую вычислительную платформу можно поместить лишь ограниченный объем памяти», — рассказал мне Джейсон Харди, вице-президент Nvidia по технологиям хранения данных.
По мере масштабирования вычислительной мощности центров обработки данных объем памяти также увеличивался, поэтому такие компании, как Micron, разбогатели во второй волне инфраструктурного бума. Но передача этих данных на GPU в нужное время — непростая задача, и по мере того как компании стремятся снижать количество токенов на ватт, они осознают, насколько важна такая маршрутизация трафика.
«Мы наблюдали более чем трехкратное улучшение этих операций благодаря ускорению, обеспечиваемому CPU Vera», — сказал Харди. «Теперь мы можем использовать нашу флэш-память на полную мощность, потому что можем получить всю эту производительность без узких мест».
Версии той же проблемы можно увидеть и за пределами Nvidia. Когда OpenAI разрабатывала свой чип Jalapeño, основное внимание уделялось предотвращению этих проблем путем минимизации объема данных, которые необходимо перемещать.
«Мы разработали Jalapeño, чтобы минимизировать перемещение данных и задержки связи», — сообщила компания в блог-посте в начале этого месяца. «Его большая область позволяет всей рабочей нагрузке оставаться в пределах одной связанной системы, сводя к минимуму перемещение данных и обеспечивая быстрое и эффективное выполнение всего запроса от начала до конца».
Это другой подход, позволяющий избежать перемещения данных путем выполнения рабочей нагрузки в одном интегрированном чипе. Но общая логика та же: повышение эффективности за счет более интеллектуального управления трафиком, а не просто дополнительных циклов процессора. Это, в свою очередь, открывает новый уровень инфраструктуры, за который компании могут конкурировать.
Этот новый фокус на оркестрации данных не является автоматической победой для Nvidia. Компании придется конкурировать с чипами rival и гиперскейлерами, как и в случае с GPU. Но конкуренция перешла на новый уровень, где создание конкурирующего GPU имеет меньшее значение, чем способность заставить всю систему работать эффективно.
И, по крайней мере на ранних этапах, Nvidia выглядит так, будто имеет подавляющее преимущество.

0 комментариев