Nvidia демонстрирует процесс установки серверов Blackwell
NVIDIA Corporation (NASDAQ: NVDA) — американская компания, один из крупнейших разработчиков графических ускорителей и процессоров, а также наборов системной логики. На рынке продукция компании известна под такими торговыми марками как GeForce, nForce, Quadro, Tesla, ION и Tegra. Компания была основана в 1993 году. По состоянию на август 2006 года в корпорации насчитывалось более 8 тысяч сотрудников, работающих в 40 офисах по всему миру. Википедия
Читайте также:NVIDIA GeForce NOW получает Black Myth: Wukong и еще 24 игры на этой неделеСверхточная языковая модель малого языка от Nvidia и Mistral AI работает на ноутбуках и ПКIndiana Jones and the Great Circle выйдет 9 декабря и получит поддержку NVIDIA DLSS 3.5Black Myth: Wukong и Star Wars Outlaws с DLSS 3 и трассировкой лучейNVIDIA добавляет Black Myth: Wukong и демоверсию FINAL FANTASY XVI в GeForce NOW
Читайте также:Foxconn: графические процессоры Blackwell от Nvidia будут доступны ограниченноПартнеры Nvidia косвенно подтверждают задержку графического процессора Blackwell B200Графические процессоры Nvidia Blackwell предположительно задерживаются из-за недостатков конструкцииНа этой неделе Nvidia представит инженерные образцы BlackwellЭнергопотребление NVIDIA Blackwell повышает требования к охлаждению
Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ.
Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами.
Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия
Читайте также:В Amazon: озвучивать игры с помощью ИИ не сложнее, чем работать актёромAMD намерена догнать Nvidia в битве за ИИ с помощью приобретения на сумму 4,9 млрд долларовСоздатель YouTube судится с Nvidia и OpenAI за использование видео в обучении ИИКитайские стартапы выбирают игровые GPU от Nvidia из-за дороговизны аналоговВо втором квартале 2024 года поставлено 8,8 млн ПК с поддержкой ИИ
Многое из того, что Nvidia представит на Hot Chips 2024, уже известно, например, дата-центр и дорожная карта ИИ, показывающая, что Blackwell Ultra выйдет в следующем году, а процессоры Vera и графические процессоры Rubin — в 2026 году, а затем Vera Ultra — в 2027 году. Nvidia впервые подтвердила эти детали на Computex еще в июне. Но ИИ остается большой темой, и Nvidia более чем счастлива продолжать бить в барабан ИИ.
(Изображение предоставлено: Nvidia)
(Изображение предоставлено: Nvidia)
(Изображение предоставлено: Nvidia)
(Изображение предоставлено: Nvidia)
(Изображение предоставлено: Nvidia)
(Изображение предоставлено: Nvidia)
(Изображение предоставлено: Nvidia)
(Изображение предоставлено: Nvidia)
(Изображение предоставлено: Nvidia)
Хотя Blackwell, как сообщается, был задержан на три месяца, Nvidia не подтвердила и не опровергла эту информацию, вместо этого предпочитая показывать изображения устанавливаемых систем Blackwell, а также предоставлять фотографии и рендеры, демонстрирующие больше внутреннего оборудования в стойках Blackwell GB200 и коммутаторах NVLink. Сказать особо нечего, кроме того, что оборудование выглядит так, будто может потреблять много сока, и имеет довольно надежное охлаждение. Оно также выглядит очень дорогим.
Nvidia также продемонстрировала некоторые результаты производительности своего существующего H200, работающего с NVSwitch и без него. Она утверждает, что производительность может быть до 1,5 раз выше на рабочих нагрузках вывода по сравнению с запуском проектов точка-точка — которые использовали модель параметров Llama 3.1 70B. Blackwell удваивает пропускную способность NVLink, предлагая дальнейшие улучшения, с NVLink Switch Tray, предлагающим совокупную пропускную способность 14,4 ТБ/с.
Поскольку требования к питанию дата-центров продолжают расти, Nvidia также работает с партнерами над повышением производительности и эффективности. Одним из наиболее многообещающих результатов является использование охлаждения теплой водой, где нагретая вода может потенциально рециркулироваться для нагрева, чтобы еще больше сократить расходы. Nvidia утверждает, что она увидела до 28% снижения потребления энергии дата-центрами с помощью этой технологии, причем большая часть этого достигается за счет удаления оборудования для охлаждения ниже температуры окружающей среды.
(Изображение предоставлено: Nvidia)
(Изображение предоставлено: Nvidia)
(Изображение предоставлено: Nvidia)
(Изображение предоставлено: Nvidia)
(Изображение предоставлено: Nvidia)
(Изображение предоставлено: Nvidia)
(Изображение предоставлено: Nvidia)
(Изображение предоставлено: Nvidia)
(Изображение предоставлено: Nvidia)
(Изображение предоставлено: Nvidia)
(Изображение предоставлено: Nvidia)
(Изображение предоставлено: Nvidia)
Выше вы можете увидеть полный набор слайдов из презентации Nvidia. Есть еще несколько интересных моментов, на которые стоит обратить внимание.
Чтобы подготовиться к Blackwell, который теперь добавляет собственную поддержку FP4, которая может еще больше повысить производительность, Nvidia поработала над тем, чтобы ее новейшее программное обеспечение извлекло выгоду из новых аппаратных функций без ущерба для точности. После использования Quasar Quantization System для настройки результатов рабочих нагрузок, Nvidia может обеспечить в основном то же качество, что и FP16, используя при этом на четверть меньше пропускной способности. Два сгенерированных изображения кролика могут сильно отличаться в незначительных отношениях, но это довольно типично для инструментов преобразования текста в изображение, таких как Stable Diffusion.
Nvidia также говорила об использовании инструментов ИИ для проектирования более совершенных чипов — ИИ создает ИИ, с черепашками на всем пути. Nvidia создала LLM для внутреннего использования, что помогает ускорить проектирование, отладку, анализ и оптимизацию. Он работает с языком Verilog, который используется для описания схем и был ключевым фактором в создании 208 миллиардов транзисторов Blackwell B200 GPU. Затем это будет использоваться для создания еще более совершенных моделей, чтобы позволить Nvidia работать над следующим поколением Rubin GPU и далее. [Не стесняйтесь вставлять свою собственную шутку Skynet в этот момент.]
Подводя итоги, у нас есть более качественное изображение дорожной карты ИИ Nvidia на ближайшие несколько лет, которая снова определяет «платформу Rubin» с коммутаторами и межсоединениями как единый пакет. Nvidia представит больше подробностей об архитектуре Blackwell, использовании генеративного ИИ для автоматизированного проектирования и жидкостного охлаждения на конференции Hot Chips на следующей неделе.
Источник: Tomshardware.com
0 комментариев