NVIDIA анонсирует платформу Blackwell Ultra для искусственного интеллекта следующего поколения

Blackwell Ultra, созданный на основе новаторской архитектуры Blackwell, представленной год назад, включает в себя стоечное решение NVIDIA GB300 NVL72 и систему NVIDIA HGX B300 NVL16. GB300 NVL72 обеспечивает в 1,5 раза большую производительность ИИ, чем NVIDIA GB200 NVL72, а также увеличивает доход Blackwell в 50 раз для фабрик ИИ по сравнению с теми, которые построены на NVIDIA Hopper.

«ИИ совершил гигантский скачок — рассуждения и агентный ИИ требуют на порядок больше вычислительной производительности», — сказал Дженсен Хуанг, основатель и генеральный директор NVIDIA. «Мы разработали Blackwell Ultra для этого момента — это единая универсальная платформа, которая может легко и эффективно выполнять предварительную подготовку, последующую подготовку и рассуждения ИИ».

NVIDIA Blackwell Ultra обеспечивает ИИ-анализ
NVIDIA GB300 NVL72 объединяет 72 графических процессора Blackwell Ultra и 36 Arm
Процессоры NVIDIA Grace на базе Neoverse в стоечном исполнении, действующие как единый массивный графический процессор, созданный для масштабирования во время тестирования. С NVIDIA GB300 NVL72 модели ИИ могут получить доступ к увеличенной вычислительной мощности платформы для изучения различных решений проблем и разбиения сложных запросов на несколько этапов, что приводит к более качественным ответам.

Ожидается, что GB300 NVL72 также будет доступен в NVIDIA DGX Cloud, сквозной, полностью управляемой платформе ИИ в ведущих облаках, которая оптимизирует производительность с помощью программного обеспечения, услуг и опыта ИИ для развивающихся рабочих нагрузок. NVIDIA DGX SuperPOD с системами DGX GB300 использует конструкцию стойки GB300 NVL72, чтобы предоставить клиентам готовую фабрику ИИ.

NVIDIA HGX B300 NVL16 обеспечивает в 11 раз более быстрый вывод на больших языковых моделях, в 7 раз больше вычислительных мощностей и в 4 раза больше памяти по сравнению с поколением Hopper, обеспечивая революционную производительность для самых сложных рабочих нагрузок, таких как рассуждения ИИ.

Кроме того, платформа Blackwell Ultra идеально подходит для следующих приложений:

• Агентный ИИ, который использует сложные рассуждения и итеративное планирование для автономного решения сложных многошаговых задач. Системы агентов ИИ выходят за рамки следования инструкциям. Они могут рассуждать, планировать и предпринимать действия для достижения конкретных целей.
• Физический ИИ, позволяющий компаниям создавать синтетические фотореалистичные видеоролики в режиме реального времени для обучения таких приложений, как роботы и автономные транспортные средства в больших масштабах.

Масштабируемая инфраструктура NVIDIA для оптимальной производительности
Расширенные возможности масштабирования сетей являются важнейшим компонентом инфраструктуры ИИ, который может обеспечить максимальную производительность, одновременно сокращая задержки и дрожание.

Системы Blackwell Ultra легко интегрируются с платформами NVIDIA Spectrum-X Ethernet и NVIDIA Quantum-X800 InfiniBand, с пропускной способностью данных 800 Гбит/с для каждого графического процессора в системе через NVIDIA ConnectX -8 SuperNIC. Это обеспечивает лучшие в своем классе возможности удаленного прямого доступа к памяти, позволяя фабрикам ИИ и облачным центрам обработки данных обрабатывать модели рассуждений ИИ без узких мест.

Лидеры мировых технологий выбирают Blackwell Ultra
Ожидается, что продукция на базе Blackwell Ultra поступит в продажу от партнеров со второй половины 2025 года.

Ожидается, что Cisco, Dell Technologies, Hewlett Packard Enterprise, Lenovo и Supermicro поставят широкий спектр серверов на базе продуктов Blackwell Ultra, а также Aivres, ASRock Rack, ASUS, Eviden, Foxconn, GIGABYTE, Inventec, Pegatron, Quanta Cloud Technology (QCT), Wistron и Wiwynn.

Поставщики облачных услуг Amazon Web Services, Google Cloud, Microsoft Azure и Oracle Cloud Infrastructure, а также поставщики облачных вычислений на базе графических процессоров CoreWeave, Crusoe, Lambda, Nebius, Nscale, Yotta и YTL будут одними из первых, кто предложит экземпляры Blackwell Ultra-powered.

Инновации в программном обеспечении NVIDIA устраняют узкие места в ИИ
Весь портфель продуктов NVIDIA Blackwell поддерживается полнофункциональной платформой NVIDIA AI. Фреймворк вывода с открытым исходным кодом NVIDIA Dynamo, также анонсированный сегодня, масштабирует службы рассуждений AI, обеспечивая скачки в пропускной способности при одновременном сокращении времени отклика и затрат на обслуживание моделей, предоставляя наиболее эффективное решение для масштабирования вычислений во время тестирования.

NVIDIA Dynamo — это новое программное обеспечение для обслуживания выводов ИИ, разработанное для максимизации генерации токенового дохода для фабрик ИИ, внедряющих модели рассуждений ИИ. Оно организует и ускоряет коммуникацию выводов между тысячами графических процессоров и использует дезагрегированное обслуживание для разделения фаз обработки и генерации больших языковых моделей на разных графических процессорах. Это позволяет оптимизировать каждую фазу независимо для ее конкретных потребностей и обеспечивает максимальное использование ресурсов графического процессора.

Системы Blackwell идеально подходят для запуска новых моделей NVIDIA Llama Nemotron Reason и NVIDIA AI-Q Blueprint, поддерживаемых в программной платформе NVIDIA AI Enterprise для промышленного ИИ. NVIDIA AI Enterprise включает микросервисы NVIDIA NIM, а также фреймворки, библиотеки и инструменты ИИ, которые предприятия могут развертывать в облаках, центрах обработки данных и рабочих станциях с ускорением NVIDIA.

Платформа Blackwell создана на основе экосистемы мощных инструментов разработки NVIDIA, библиотек NVIDIA CUDA-X, более 6 миллионов разработчиков и более 4000 приложений, масштабирующих производительность на тысячах графических процессоров.

Источник: NVIDIA