Революционный прорыв: HBM прощается с плотным размещением у GPU — раздельная упаковка и оптическая архитектура

Сообщается, что для решения давней проблемы «стены памяти», с которой сталкиваются чипы ИИ, мировые производители памяти и упаковки оценивают новую архитектуру: разделение GPU и HBM для независимой упаковки с последующим соединением передачи данных через оптические технологии.

Один из исследователей южнокорейского производителя памяти сообщил, что текущие усилия по расширению пропускной способности и емкости HBM сталкиваются со структурными ограничениями. Компания обсуждает с клиентами возможность преодоления ограничений «береговой линии» чипов GPU с помощью оптических соединений для размещения большего количества HBM.

Раньше HBM всегда плотно прилегал к GPU в 2.5D-упаковке, чтобы минимизировать задержку передачи данных. Однако длина края чипа GPU уже приблизилась к физическому пределу, и окружающее пространство больше не может вместить больше HBM.

В то же время путь вертикального стекирования также приближается к пределу. Количество слоев стека HBM увеличивается с 12 и 16 до 20 и более, а сложность процесса растет экспоненциально.

Следует отметить, что новая архитектура размещает HBM на расстоянии в несколько сантиметров от GPU, располагая их по кругу вокруг GPU или выделяя отдельную область HBM в центре печатной платы.

Поскольку скорость передачи оптических сигналов намного превышает скорость электрических, увеличение физического расстояния не приведет к значительным потерям задержки.

Схема оптического соединения уже прошла практическую техническую проверку. На конференции Hot Chips 2025 компания Celestial AI продемонстрировала свой модуль фотонного соединения, который может реализовать оптический ввод-вывод вокруг упаковки GPU, освобождая окружающее пространство для HBM.

Один из руководителей глобального производителя OSAT заявил, что оптические соединения являются четким трендом. Внедрение технологии начнется с соединений между стойками и серверами, затем распространится на соединения между чипами внутри одной платы, но появление оптических соединений между чипами может произойти не в столь отдаленном будущем.