Microsoft Azure демонстрирует первые в мире индивидуальные стойки Nvidia Blackwell

9 октября 2024, 00:09 / Технологии → Новости / Технологии

Процессоры

Thumbnail: Центральный процессор Центра́льный проце́ссор (ЦП; также центра́льное проце́ссорное устро́йство — ЦПУ; англ. central processing unit, CPU, дословно — центральное обрабатывающее устройство) — электронный блок либо интегральная схема (микропроцессор), исполняющая машинные инструкции (код программ), главная часть аппаратного обеспечения компьютера или программируемого логического контроллера. Иногда называют микропроцессором или просто процессором. Изначально термин центральное процессорное устройство описывал специализированный класс логических машин, предназначенных для выполнения сложных компьютерных программ. Википедия

Blackwell от Nvidia

NVIDIA Corporation (NASDAQ: NVDA) — американская компания, один из крупнейших разработчиков графических ускорителей и процессоров, а также наборов системной логики. На рынке продукция компании известна под такими торговыми марками как GeForce, nForce, Quadro, Tesla, ION и Tegra. Компания была основана в 1993 году. По состоянию на август 2006 года в корпорации насчитывалось более 8 тысяч сотрудников, работающих в 40 офисах по всему миру. Википедия

являются одними из самых востребованных аппаратных средств для центров обработки данных в наши дни, поскольку компании стремятся обучать большие языковые модели (LLM) со все большим количеством параметров. Ходили слухи, что Microsoft

Microsoft Corporation (произносится «ма́йкрософт»; как правило, именуется просто Microsoft; распространено сокращение MS) — одна из крупнейших транснациональных компаний по производству проприетарного программного обеспечения для различного рода вычислительной техники — персональных компьютеров, игровых приставок, КПК, мобильных телефонов и прочего, разработчик наиболее широко распространённой на данный момент в мире программной платформы — семейства операционных систем Windows. Подразделения компании также производят семейство игровых консолей Xbox, а также аксессуары для персональных компьютеров (клавиатуры, мыши и т. д.). C 2012 года производит собственный планшетный компьютер — Surface. Википедия

была первой компанией, которая завладела серверами Blackwell, но это была неофициальная информация. Сегодня компания заявила, что она не только получила детали Nvidia Blackwell

, но и что они были запущены и работали.

«Microsoft Azure — первый поставщик облачных услуг, использующий систему Blackwell от Nvidia с серверами искусственного интеллекта на базе GB200», — говорится в сообщении Microsoft Azure на сайте X. «Мы оптимизируем каждый уровень, чтобы обеспечить работу самых передовых в мире моделей искусственного интеллекта, используя сетевые технологии Infiniband и инновационное жидкостное охлаждение с замкнутым контуром. Узнайте больше на MS Ignite».

Итак, Microsoft Azure имеет по крайней мере одну серверную стойку на базе GB200 с неизвестным количеством процессоров B200 — предположительно 32. Она использует сложную систему жидкостного охлаждения. Машина не является NVL72 GB200 от Nvidia, которую Microsoft, как сообщается, предпочитает менее плотным вариантам. Эта конкретная стойка, скорее всего, будет использоваться для целей тестирования (как графических процессоров Nvidia Blackwell, так и системы жидкостного охлаждения), и в ближайшие месяцы Microsoft развернет серверы на базе Blackwell для коммерческих рабочих нагрузок.

Изображение: Microsoft/X

Ожидается, что машина NVL72 GB200 с графическим процессором 72 B200 будет потреблять и рассеивать около 120 кВт мощности, что делает жидкостное охлаждение обязательным для таких машин. В результате, для Microsoft было бы хорошей идеей протестировать собственное решение для жидкостного охлаждения перед развертыванием шкафов на базе Blackwell.

Графический процессор Nvidia B200 обеспечивает в 2,5 раза более высокую производительность по сравнению с процессором H100, когда речь идет о производительности FP8/INT8 (4500 TFLOPS/TOPS против 1980 TOPS). С форматом данных FP4, B200 от Nvidia обеспечивает колоссальные 9 PFLOPS производительности, открывая двери для обучения чрезвычайно сложных LLM, которые могут обеспечить новые модели использования для ИИ в целом.

«Наше давнее партнерство с NVIDIA и глубокие инновации продолжают лидировать в отрасли, обеспечивая поддержку самых сложных рабочих нагрузок ИИ», — сказал Сатья Наделла, генеральный директор Microsoft, в другом сообщении X.

Ожидается, что Microsoft поделится более подробной информацией о своих машинах на базе Blackwell и проектах ИИ в целом на своей ежегодной конференции Ignite. Конференция MS Ignite пройдет в Чикаго с 18 по 22 ноября 2024 года. Ожидается, что широкомасштабное развертывание установок серверов Blackwell начнется в конце этого года или в начале 2025 года.

Источник: Tomshardware.com