SK hynix представила технологию охлаждения памяти iHBM для HBM5

Компания SK hynix представила технологию управления теплом iHBM, предназначенную для повышения производительности систем искусственного интеллекта. Это решение для термоупаковки улучшает отвод тепла за счет интеграции интегрированных охлаждающих элементов (ICE) непосредственно в корпус HBM. По заявлению SK hynix, результатом стало снижение теплового сопротивления более чем на 30%, что «обеспечивает стабильные рабочие характеристики даже в условиях высоких температур и высоких нагрузок».

Изображение: SK Hynix

Архитектура iHBM размещает непроводящие кремниевые охлаждающие элементы прямо в слое Die-to-Die Physical Layer (D2D PHY) — критически важном высокоскоростном интерфейсе соединения между базовым кристаллом HBM и процессором ИИ. Этот интерфейс подвержен резким скачкам температуры из-за экстремального трафика данных. Размещая охлаждающие элементы в этом слое, SK hynix смягчает серьезное тепловое троттлинг, которое снижает производительность систем ИИ при выполнении тяжелых вычислительных задач.

Компания считает, что структурное предотвращение теплового троттлинга позволит будущим поколениям памяти, таким как HBM5, наращивать количество слоев и поддерживать максимальную скорость передачи данных в условиях высоких вычислительных нагрузок центров обработки данных ИИ.

«iHBM — это оптимальное решение для минимизации тепловыделения, разработанное путем объединения возможностей проектирования памяти и передовой технологии упаковки», — заявил вице-президент SK hynix Ли Кан Ук. «Мы будем активно предоставлять ценность, необходимую клиентам в среде ИИ, и еще больше укрепим наше лидерство в области памяти для ИИ».

SK hynix планирует применять технологию iHBM, начиная с продуктов следующего поколения, таких как HBM5, чтобы удовлетворить требования к терморегулированию в высокопроизводительных вычислениях (HPC), центрах обработки данных ИИ и других средах со сверхвысокой плотностью и пропускной способностью, тем самым повышая общую стабильность и эффективность систем.

Концептуальная схема «iHBM Solution», представленная SK hynix / Изображение: SK Hynix

Управление теплом является одной из самых больших проблем, стоящих перед технологией HBM (High-Bandwidth Memory). В отличие от обычной памяти, HBM достигает огромной пропускной способности за счет вертикального stacking нескольких кристаллов DRAM, что значительно сокращает расстояние, которое должны преодолевать данные, и обеспечивает гораздо более высокую скорость передачи с лучшей энергоэффективностью.

Для минимизации задержек и обеспечения процессоров ИИ данными, HBM размещается очень близко к GPU или ускорителю ИИ на одной подложке, соединяясь через высокоскоростной кремниевый интерпозер. Однако такое плотное расположение также создает серьезные тепловые проблемы.

Слой D2D PHY — сверхскоростной интерфейс, соединяющий процессор и стеки HBM — непрерывно перемещает терабайты данных в секунду. Поскольку тысячи сигнальных линий и миллиарды транзисторов переключаются на экстремально высоких частотах, потери при переключении, токи утечки и электрическое сопротивление генерируют значительное тепло.

Проблема усугубляется самим процессором, который уже производит огромное количество тепла. Поскольку стеки HBM плотно упакованы вокруг процессора, тепло накапливается очень быстро на малой площади. Когда температура превышает безопасные пределы, система автоматически снижает тактовые частоты и напряжения через тепловой троттлинг для предотвращения физических повреждений, снижая общую производительность.

Новый подход iHBM от SK hynix пытается решить проблему на структурном уровне. В отличие от обычных конструкций охлаждения HBM, которые отводят тепло косвенно через основной кристалл и окружающие структуры корпуса, архитектура iHBM размещает интегрированные охлаждающие элементы (ICE) непосредственно вокруг области D2D PHY — той самой зоны, где тепловая концентрация наиболее сильна. Этот подход создает выделенный путь рассеивания тепла у источника, снижая общее тепловое сопротивление на 30% и позволяя чипу поддерживать стабильную работу в условиях высоких температур и нагрузок, характерных для задач ИИ.

SK hynix утверждает, что технология может производиться в промышленных масштабах с использованием существующего процесса корпусирования на уровне пластин (WLP), который основан на технологии массового перераспределения и заливки под давлением (MR-MUF), уже используемой в коммерческих продуктах HBM. Конструкция также архитектурно совместима с существующими конфигурациями System-in-Package, что означает, что клиенты могут интегрировать новые тепловые возможности без серьезных изменений конструкции.

Источник: Tomshardware.com