NVIDIA демонстрирует будущий дизайн ускорителя ИИ: кремниевая фотоника и DRAM поверх вычислений

9 декабря 2024, 14:59 / Технологии → Новости / Технологии

На престижной конференции IEDM 2024 компания NVIDIA представила свое видение будущего дизайна ускорителя ИИ

Thumbnail: Искусственный интеллект Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

, которому компания планирует следовать в будущих итерациях ускорителей. В настоящее время пределы упаковки чипов и кремниевых инноваций расширяются. Однако будущим ускорителям ИИ могут потребоваться некоторые дополнительные вертикали для достижения необходимого повышения производительности. Предлагаемый на IEDM 24 дизайн представляет кремниевую фотонику (SiPh) в центре внимания. Архитектура NVIDIA требует 12 соединений SiPh для внутричиповых и межчиповых соединений, с тремя соединениями на плитку GPU по четырем плиткам GPU на каждом уровне. Это знаменует собой значительный отход от традиционных технологий межсоединений, которые в прошлом были ограничены естественными свойствами меди.

Возможно, самым поразительным аспектом видения NVIDIA является введение так называемых «GPU-уровней» — нового подхода, который, по-видимому, складывает компоненты GPU вертикально. Это дополняется усовершенствованной конфигурацией 3D-сложенной DRAM

DRAM (англ. dynamic random access memory — динамическая память с произвольным доступом) — тип компьютерной памяти, отличающийся использованием полупроводниковых материалов, энергозависимостью и возможностью доступа к данным, хранящимся в произвольных ячейках памяти (см. запоминающее устройство с произвольным доступом). Модули памяти с памятью такого типа широко используются в компьютерах в качестве оперативных запоминающих устройств (ОЗУ), также используются в качестве устройств постоянного хранения информации в системах, требовательных к задержкам. Википедия

с шестью блоками памяти на плитку, что обеспечивает мелкозернистый доступ к памяти и существенно улучшенную пропускную способность. Эта сложенная DRAM получит прямое электрическое соединение с плитками GPU, имитируя AMD 3D V-Cache в большем масштабе. Однако сроки реализации отражают значительные технологические препятствия, которые необходимо преодолеть. Масштабирование производства кремниевой фотоники представляет собой особую проблему, поскольку NVIDIA требует мощности для производства более миллиона соединений SiPh ежемесячно, чтобы сделать проект коммерчески жизнеспособным. NVIDIA инвестировала в Lightmatter, которая создает фотонные пакеты для масштабирования вычислений, поэтому некоторая форма ее технологии может оказаться в будущих ускорителях NVIDIA

Управление температурой становится еще одним критически важным соображением. Многоуровневая конструкция графического процессора создает сложные проблемы охлаждения, которые современная технология не может адекватно решить. NVIDIA признает, что потребуются значительные достижения в материаловедении, прежде чем концепция наложения DRAM на логику на логику сможет стать реальностью. Компания изучает инновационные решения, включая внедрение систем охлаждения внутри чипа, таких как охлаждение на уровне модуля с использованием специальных охлаждающих пластин. Пройдет некоторое время, прежде чем эта конструкция будет коммерциализирована, и аналитики, такие как доктор Ян Катресс, предсказывают, что продукт, использующий эту технологию, может выйти в свет где-то в 2028-2030 годах.

Источник: @IanCutress on X