Micron представила первую в мире планку LPDDR5X объёмом 256 ГБ

Компания Micron, ушедшая с рынка потребительской оперативной памяти и SSD, продолжает активно развивать корпоративный сегмент, особенно в области искусственного интеллекта. Она анонсировала первую в мире планку памяти LPDDR5X SOCAMM2 объёмом 256 ГБ и уже отправила образцы клиентам.

SOCAMM2 — это модуль низкопрофильной памяти для центров обработки данных, высокопроизводительных вычислений и ИИ. Он основан на стандартах LPDDR5/5X и модульной конструкции CAMM, а в будущем получит поддержку LPDDR6.

Новая технология обладает преимуществами в виде низкого энергопотребления, экономии пространства и простоты обслуживания, заполняя пробел между HBM и DDR по производительности и стоимости. В её развитии участвуют Samsung, SK Hynix, Micron и Longsys, а также активно поддерживает NVIDIA.

Micron первой использовала технологию LPDDR5X для создания нового поколения SOCAMM2. При тех же компактных размерах ёмкость увеличилась на 50% по сравнению с предыдущим поколением. Применение передового 1γ-процесса компании позволило повысить энергоэффективность более чем на 20%.

Ключевым нововведением стало использование монолитных чипов LPDDR5X ёмкостью 32 Гбит (8 ГБ), что позволило достичь общего объёма в 256 ГБ на модуль. По сравнению со стандартными планками RDIMM, это на треть больше ёмкости, на две трети меньше объёма и на две трети ниже энергопотребление.

В сервере с 8-канальной однопроцессорной конфигурацией это позволяет легко достичь системной ёмкости в 2 ТБ. А в современных 12-канальных двухпроцессорных серверах, например, на базе новых процессоров Intel Xeon 6+, можно реализовать до 6 ТБ памяти.

Компания также заявляет, что в задачах логического вывода (inference) больших языковых моделей с длинным контекстом время генерации первого токена (TTFT) сокращается до 2.3 раз, а энергоэффективность в независимых CPU-приложениях может повыситься до 3 раз.

Интересный факт: Форм-фактор CAMM (Compression Attached Memory Module), лежащий в основе SOCAMM2, был первоначально разработан Dell для тонких ноутбуков, но теперь находит применение в серверах. Это демонстрирует растущую конвергенцию технологий между мобильными и высокопроизводительными вычислительными платформами, где ключевыми факторами становятся плотность размещения и энергоэффективность.