Nvidia может отложить наращивание объемов производства машин Blackwell: TrendForce

Как и ожидалось, Nvidia и ее партнеры смогут поставить только ограниченное количество серверов на базе Blackwell в 2024 году, поскольку компании придется использовать для них свой малопроизводительный B200. Однако Dell уже поставляет серверные стойки Blackwell. Однако, хотя усовершенствованные версии процессоров Nvidia B200 поступили в массовое производство в октябре и, следовательно, попадут в руки компании в январе, TrendForce не ожидает, что рост числа серверов на базе Blackwell резко возрастет немедленно. По данным компании, из-за перегрева, энергопотребления и требований к более скоростным соединениям массовое производство и пиковые поставки B200 и GB200 произойдут только между вторым и третьим кварталами 2025 года.

Всего несколько месяцев назад сообщалось, что стойка Nvidia NVL72 на базе платформы GB200 с 72 графическими процессорами B200 будет потреблять 120 кВт мощности, что уже значительно выше, чем у текущих стоек серверов ИИ (типичная мощность стойки высокой плотности составляет до 20 кВт, в то время как стойка на базе H100, как сообщается, потребляет около 40 кВт). TrendForce теперь утверждает, что Nvidia обновила спецификацию устройства, и теперь оно потребляет 140 кВт, что больше, чем типичные центры обработки данных могут предоставить одной стойке.

Проблема в том, что графические процессоры Blackwell от Nvidia, как сообщается, были склонны к перегреву в серверах, оснащенных 72 процессорами, даже когда стойки потребляли до 120 кВт на стойку. Эта проблема заставила Nvidia неоднократно пересматривать конструкции серверных стоек, поскольку перегрев не только снижает производительность графических процессоров, но и грозит повреждением оборудования. Потребление мощности в 140 кВт на стойку означает дальнейшие изменения в конструкции серверов, что может привести к сбоям.

Повышенное энергопотребление означает дополнительные требования к охлаждению. Жидкостное охлаждение необходимо для серверов Blackwell, но современные боковые блоки распределения охлаждающей жидкости (CDU) могут обрабатывать только 60 кВт—80 кВт тепловой мощности. С этой целью поставщики систем охлаждения оптимизируют конструкции охлаждающих пластин и стремятся удвоить или утроить мощность CDU. TrendForce ожидает, что производительность жидкостно-жидкостных внутрирядных CDU превысит 1,3 мВт, с возможными дальнейшими усовершенствованиями, поэтому чрезмерное рассеивание тепла в конечном итоге перестанет быть серьезной проблемой.

Однако, согласно отчету, энергопотребление и управление теплом — не единственные проблемы, которые Nvidia и ее партнеры должны решить. TrendForce утверждает, что Nvidia должна оптимизировать свои соединения, но не уточняет, какие именно соединения должны быть оптимизированы.

Остается увидеть, как заявленные проблемы начального периода с серверами Nvidia B200 и GB200 повлияют на сроки запуска и доступность B200A на базе упрощенных процессоров Blackwell и машин B300 и GB300 с обновленными графическими процессорами Blackwell. В то время как B200A, вероятно, получит значительно более низкое энергопотребление по сравнению с B200/GB200, обновленные графические процессоры Blackwell серии B300 обещают иметь больше памяти и более высокую вычислительную производительность, которая обычно достигается за счет более высокой мощности, поэтому эти продукты, вероятно, будут потреблять даже более 140 кВт на стойку, что потребует еще более сложных компонентов и охлаждения.

Источник: Tomshardware.com