Supermicro представляет жидкостное охлаждение для дата-центров на базе NVIDIA GB200 NVL72 и NVIDIA HGX B200

15 октября 2024, 21:40 / Технологии → Новости / Технологии

Supermicro, Inc., поставщик комплексных ИТ-решений для ИИ

Thumbnail: Искусственный интеллект Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

, облака, хранения и 5G/Edge, ускоряет переход отрасли к жидкостно-охлаждаемым центрам обработки данных с платформой NVIDIA Blackwell

, чтобы обеспечить новую парадигму энергоэффективности для быстро растущего спроса на энергию новых инфраструктур ИИ. Ведущие в отрасли комплексные решения жидкостного охлаждения от Supermicro работают на платформе NVIDIA GB200 NVL72 для экзафлопсных вычислений в одной стойке и начали отбор образцов для выбора клиентов для полномасштабного производства в конце четвертого квартала. Кроме того, недавно анонсированные системы жидкостного охлаждения Supermicro X14 и H14 4U и системы воздушного охлаждения 10U готовы к производству для системы NVIDIA HGX B200 8-GPU.

«Мы движем будущим устойчивых вычислений ИИ, и наши решения ИИ с жидкостным охлаждением быстро внедряются в некоторые из самых амбициозных проектов инфраструктуры ИИ в мире, с более чем 2000 стоек с жидкостным охлаждением, поставленных с июня 2024 года», — сказал Чарльз Лян, президент и генеральный директор Supermicro. «Комплексное решение жидкостного охлаждения от Supermicro с платформой NVIDIA Blackwell раскрывает вычислительную мощность, экономическую эффективность и энергоэффективность следующего поколения графических процессоров, таких как те, которые являются частью NVIDIA GB200 NVL72, эксафлопсного компьютера, размещенного в одной стойке. Обширный опыт Supermicro в развертывании инфраструктуры ИИ с жидкостным охлаждением, а также комплексные услуги на месте, программное обеспечение для управления и глобальные производственные мощности предоставляют клиентам явное преимущество в преобразовании центров обработки данных с помощью самых мощных и устойчивых решений ИИ».

SuperClusters с жидкостным охлаждением для систем на базе платформы NVIDIA GB200 NVL72 от Supermicro оснащены новыми усовершенствованными внутристойочными или внутрирядными блоками распределения охлаждающей жидкости (CDU) и специальными охлаждающими пластинами, разработанными для вычислительного лотка, вмещающего два чипа NVIDIA GB200 Grace Blackwell Superchips в форм-факторе 1U. NVIDIA GB200 NVL72 от Supermicro обеспечивает возможности вычислений ИИ exascale в одной стойке с помощью комплексного решения жидкостного охлаждения от Supermicro. Стоечное решение включает 72 графических процессора NVIDIA Blackwell и 32 центральных процессора NVIDIA Grace, соединенных сетью NVIDIA NVLink пятого поколения. Система коммутатора NVIDIA NVLink обеспечивает общую скорость обмена данными между графическими процессорами со скоростью 130 терабайт в секунду (ТБ/с) с чрезвычайно низкой задержкой, повышая производительность для рабочих нагрузок ИИ и высокопроизводительных вычислений (HPC). Кроме того, Supermicro поддерживает недавно анонсированную платформу NVIDIA GB200 NVL2 — систему 2U с воздушным охлаждением, включающую два тесно связанных графических процессора NVIDIA Blackwell и два центральных процессора NVIDIA Grace, которая подходит для простого развертывания с различными рабочими нагрузками, такими как большой логический вывод LLM, RAG, обработка данных и приложения HPC.

Ведущие 4U системы с жидкостным охлаждением и новые 10U системы с воздушным охлаждением от Supermicro теперь поддерживают систему NVIDIA HGX B200 8-GPU и готовы к производству. Недавно разработанные охлаждающие пластины и блок распределения охлаждающей жидкости в стойке мощностью 250 кВт максимизируют производительность и эффективность систем с 8-GPU, обеспечивая 64x 1000 Вт графических процессоров NVIDIA Blackwell и 16x 500 Вт центральных процессоров в одной стойке 48U. До 4 новых 10U систем с воздушным охлаждением могут быть установлены и полностью интегрированы в стойку, с той же плотностью, что и у предыдущего поколения, при этом обеспечивая до 15-кратного увеличения производительности вывода и 3-кратное увеличение производительности обучения.

Программное обеспечение SuperCloud Composer, комплексная платформа управления центрами обработки данных Supermicro, предоставляет мощные инструменты для мониторинга важной информации о системах и стойках с жидкостным охлаждением, блоках распределения охлаждающей жидкости и градирнях, включая давление, влажность, состояние насосов и клапанов и многое другое. Модуль Liquid Cooling Consult (LCCM) SuperCloud Composer оптимизирует эксплуатационные расходы и управляет целостностью центров обработки данных с жидкостным охлаждением.

Масштабируя инфраструктуру для моделей ИИ с несколькими триллионами параметров, Supermicro находится на переднем крае внедрения сетевых инноваций как для InfiniBand, так и для Ethernet, включая NVIDIA BlueField -3 SuperNIC и NVIDIA ConnectX -7 на скорости 400 Гбит/с, NVIDIA ConnectX -8, Spectrum -4 и NVIDIA Quantum-3 для обеспечения сетевых возможностей на скорости 800 Гбит/с для платформы NVIDIA Blackwell. NVIDIA Spectrum-X Ethernet с кластерами систем Supermicro NVIDIA HGX H100 и H200 4U с жидкостным охлаждением и 8U с воздушным охлаждением теперь поддерживает одно из крупнейших развертываний ИИ на сегодняшний день.

От проверки концепции (PoC) до полномасштабного развертывания, Supermicro является универсальным магазином, предоставляющим все необходимые технологии, жидкостное охлаждение, сетевые решения и услуги по установке на месте. Supermicro поставляет комплексную, разработанную на собственном производстве экосистему жидкостного охлаждения, охватывающую специально разработанные охлаждающие пластины, оптимизированные для различных графических процессоров, центральных процессоров и модулей памяти, а также несколько форм-факторов и емкости CDU, коллекторов, шлангов, разъемов, градирен и программного обеспечения для мониторинга и управления. Это комплексное решение легко интегрируется в конфигурации на уровне стойки, значительно повышая эффективность системы, смягчая тепловое регулирование и одновременно снижая как совокупную стоимость владения (TCO), так и воздействие на окружающую среду операций центра обработки данных в эпоху ИИ.

Supermicro на глобальном саммите OCP 2024