Nvidia демонстрирует процесс установки серверов Blackwell

23 августа 2024, 18:12 / Технологии → Новости / Технологии

Перед началом выставки Hot Chips 2024 компания Nvidia

NVIDIA Corporation (NASDAQ: NVDA) — американская компания, один из крупнейших разработчиков графических ускорителей и процессоров, а также наборов системной логики. На рынке продукция компании известна под такими торговыми марками как GeForce, nForce, Quadro, Tesla, ION и Tegra. Компания была основана в 1993 году. По состоянию на август 2006 года в корпорации насчитывалось более 8 тысяч сотрудников, работающих в 40 офисах по всему миру. Википедия

продемонстрировала больше элементов своей платформы Blackwell

, включая установку и настройку серверов. Это не слишком тонкий способ сказать, что Blackwell все еще на подходе — не обращайте внимания на задержки. Она также рассказала о своих существующих решениях Hopper H200, показала оптимизации FP4 LLM с использованием своей новой системы квантования Quasar, обсудила жидкостное охлаждение теплой водой для центров обработки данных и рассказала об использовании ИИ

Thumbnail: Искусственный интеллект Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

для создания еще лучших чипов для ИИ. Она повторила, что Blackwell — это больше, чем просто графический процессор, это целая платформа и экосистема.

Многое из того, что Nvidia представит на Hot Chips 2024, уже известно, например, дата-центр и дорожная карта ИИ, показывающая, что Blackwell Ultra выйдет в следующем году, а процессоры Vera и графические процессоры Rubin — в 2026 году, а затем Vera Ultra — в 2027 году. Nvidia впервые подтвердила эти детали на Computex еще в июне. Но ИИ остается большой темой, и Nvidia более чем счастлива продолжать бить в барабан ИИ.

(Изображение предоставлено: Nvidia)

Хотя Blackwell, как сообщается, был задержан на три месяца, Nvidia не подтвердила и не опровергла эту информацию, вместо этого предпочитая показывать изображения устанавливаемых систем Blackwell, а также предоставлять фотографии и рендеры, демонстрирующие больше внутреннего оборудования в стойках Blackwell GB200 и коммутаторах NVLink. Сказать особо нечего, кроме того, что оборудование выглядит так, будто может потреблять много сока, и имеет довольно надежное охлаждение. Оно также выглядит очень дорогим.

Nvidia также продемонстрировала некоторые результаты производительности своего существующего H200, работающего с NVSwitch и без него. Она утверждает, что производительность может быть до 1,5 раз выше на рабочих нагрузках вывода по сравнению с запуском проектов точка-точка — которые использовали модель параметров Llama 3.1 70B. Blackwell удваивает пропускную способность NVLink, предлагая дальнейшие улучшения, с NVLink Switch Tray, предлагающим совокупную пропускную способность 14,4 ТБ/с.

Поскольку требования к питанию дата-центров продолжают расти, Nvidia также работает с партнерами над повышением производительности и эффективности. Одним из наиболее многообещающих результатов является использование охлаждения теплой водой, где нагретая вода может потенциально рециркулироваться для нагрева, чтобы еще больше сократить расходы. Nvidia утверждает, что она увидела до 28% снижения потребления энергии дата-центрами с помощью этой технологии, причем большая часть этого достигается за счет удаления оборудования для охлаждения ниже температуры окружающей среды.

(Изображение предоставлено: Nvidia)

Выше вы можете увидеть полный набор слайдов из презентации Nvidia. Есть еще несколько интересных моментов, на которые стоит обратить внимание.

Чтобы подготовиться к Blackwell, который теперь добавляет собственную поддержку FP4, которая может еще больше повысить производительность, Nvidia поработала над тем, чтобы ее новейшее программное обеспечение извлекло выгоду из новых аппаратных функций без ущерба для точности. После использования Quasar Quantization System для настройки результатов рабочих нагрузок, Nvidia может обеспечить в основном то же качество, что и FP16, используя при этом на четверть меньше пропускной способности. Два сгенерированных изображения кролика могут сильно отличаться в незначительных отношениях, но это довольно типично для инструментов преобразования текста в изображение, таких как Stable Diffusion.

Nvidia также говорила об использовании инструментов ИИ для проектирования более совершенных чипов — ИИ создает ИИ, с черепашками на всем пути. Nvidia создала LLM для внутреннего использования, что помогает ускорить проектирование, отладку, анализ и оптимизацию. Он работает с языком Verilog, который используется для описания схем и был ключевым фактором в создании 208 миллиардов транзисторов Blackwell B200 GPU. Затем это будет использоваться для создания еще более совершенных моделей, чтобы позволить Nvidia работать над следующим поколением Rubin GPU и далее. [Не стесняйтесь вставлять свою собственную шутку Skynet в этот момент.]

Подводя итоги, у нас есть более качественное изображение дорожной карты ИИ Nvidia на ближайшие несколько лет, которая снова определяет «платформу Rubin» с коммутаторами и межсоединениями как единый пакет. Nvidia представит больше подробностей об архитектуре Blackwell, использовании генеративного ИИ для автоматизированного проектирования и жидкостного охлаждения на конференции Hot Chips на следующей неделе.

Источник: Tomshardware.com