Перегрев процессоров Blackwell в ЦОДДах Nvidia вызывает задержки

18 ноября 2024, 01:43 / Технологии → Новости / Технологии

Процессоры

Thumbnail: Центральный процессор Центра́льный проце́ссор (ЦП; также центра́льное проце́ссорное устро́йство — ЦПУ; англ. central processing unit, CPU, дословно — центральное обрабатывающее устройство) — электронный блок либо интегральная схема (микропроцессор), исполняющая машинные инструкции (код программ), главная часть аппаратного обеспечения компьютера или программируемого логического контроллера. Иногда называют микропроцессором или просто процессором. Изначально термин центральное процессорное устройство описывал специализированный класс логических машин, предназначенных для выполнения сложных компьютерных программ. Википедия

Blackwell

следующего поколения от Nvidia

NVIDIA Corporation (NASDAQ: NVDA) — американская компания, один из крупнейших разработчиков графических ускорителей и процессоров, а также наборов системной логики. На рынке продукция компании известна под такими торговыми марками как GeForce, nForce, Quadro, Tesla, ION и Tegra. Компания была основана в 1993 году. По состоянию на август 2006 года в корпорации насчитывалось более 8 тысяч сотрудников, работающих в 40 офисах по всему миру. Википедия

сталкиваются со значительными проблемами перегрева при установке в серверные стойки высокой емкости, сообщает The Information. Сообщается, что эти проблемы привели к изменениям в конструкции и задержкам и вызвали обеспокоенность у таких клиентов, как Google, Meta и Microsoft

Microsoft Corporation (произносится «ма́йкрософт»; как правило, именуется просто Microsoft; распространено сокращение MS) — одна из крупнейших транснациональных компаний по производству проприетарного программного обеспечения для различного рода вычислительной техники — персональных компьютеров, игровых приставок, КПК, мобильных телефонов и прочего, разработчик наиболее широко распространённой на данный момент в мире программной платформы — семейства операционных систем Windows. Подразделения компании также производят семейство игровых консолей Xbox, а также аксессуары для персональных компьютеров (клавиатуры, мыши и т. д.). C 2012 года производит собственный планшетный компьютер — Surface. Википедия

, относительно того, смогут ли они развернуть серверы Blackwell вовремя.

По словам инсайдеров, знакомых с ситуацией и общавшихся с The Information, графические процессоры

Thumbnail: Графический процессор Графический процессор (англ. graphics processing unit, GPU) — отдельное устройство персонального компьютера или игровой приставки, выполняющее графический рендеринг; в начале 2000-х годов графические процессоры стали массово применяться и в других устройствах: планшетные компьютеры, встраиваемые системы, цифровые телевизоры. Современные графические процессоры очень эффективно обрабатывают и отображают компьютерную графику, благодаря специализированной конвейерной архитектуре они намного эффективнее в обработке графической информации, чем типичный центральный процессор. Графический процессор в современных видеокартах (видеоадаптерах) применяется в качестве ускорителя трёхмерной графики. Википедия

Blackwell от Nvidia для ИИ и HPC перегреваются при использовании в серверах с 72 процессорами внутри. Ожидается, что эти машины будут потреблять до 120 кВт на стойку. Эти проблемы заставили Nvidia несколько раз пересмотреть конструкцию своих серверных стоек, поскольку перегрев ограничивает производительность графических процессоров и может повредить компоненты. Сообщается, что клиенты обеспокоены тем, что эти неудачи могут помешать их срокам развертывания новых процессоров в их центрах обработки данных.

Сообщается, что Nvidia дала своим поставщикам указание внести несколько изменений в конструкцию стоек для противодействия проблемам перегрева. Компания тесно сотрудничала со своими поставщиками и партнерами для разработки инженерных изменений для улучшения охлаждения сервера. Хотя эти корректировки являются стандартными для таких масштабных технологических релизов, они, тем не менее, увеличили задержку, еще больше отодвинув ожидаемые даты поставок.

В ответ на задержки и проблемы с перегревом представитель Nvidia напомнил Reuters о совместных усилиях с поставщиками облачных услуг и описал изменения в дизайне как часть обычного процесса разработки. Это партнерство с поставщиками и поставщиками облачных услуг направлено на то, чтобы гарантировать, что конечный продукт соответствует ожиданиям по производительности и надежности, поскольку Nvidia продолжает работать над решением этих технических проблем.

Ранее Nvidia пришлось отложить начало производства Blackwell из-за конструктивного недостатка процессора, убивающего выход годных. Графические процессоры Blackwell B100 и B200 от Nvidia используют технологию упаковки CoWoS-L от TSMC для соединения двух своих чиплетов. Эта конструкция включает в себя интерпозер RDL с локальными мостами кремниевых соединений (LSI), который поддерживает скорость передачи данных до 10 ТБ/с. Точное позиционирование этих мостов LSI имеет важное значение для того, чтобы технология функционировала должным образом. Однако несоответствие характеристик теплового расширения чиплетов GPU, мостов LSI, интерпозера RDL и подложки материнской платы привело к деформации и сбоям системы. Чтобы решить эту проблему, Nvidia, как сообщается, изменила верхние металлические слои кремния GPU и структуры выступов, чтобы повысить надежность производства. Хотя Nvidia никогда не раскрывала конкретных подробностей об этих изменениях, она отметила, что новые маски были необходимы как часть исправления.

В результате окончательная версия графических процессоров Blackwell поступила в массовое производство только в конце октября, а это значит, что Nvidia сможет поставлять эти процессоры, начиная с конца января.

Клиенты Nvidia, включая таких технологических гигантов, как Google, Meta и Microsoft, используют графические процессоры Nvidia для обучения своих самых мощных больших языковых моделей. Задержки в графических процессорах Blackwell AI, естественно, влияют на планы и продукты клиентов Nvidia.

Источник: Tomshardware.com