Micron представила модули памяти SOCAMM2 рекордной ёмкости для энергоэффективных ИИ-дата-центров

В эпоху беспрецедентного роста и инноваций в области искусственного интеллекта вся экосистема дата-центров трансформируется в сторону более энергоэффективной инфраструктуры для поддержания устойчивого развития. Поскольку память играет всё более важную роль в ИИ-системах, решения с низким энергопотреблением становятся центральным элементом этой трансформации. Компания Micron Technology, Inc. объявила сегодня о начале поставок клиентам образцов модулей SOCAMM2 (small outline compression attached memory modules) объёмом 192 ГБ для более широкого внедрения энергоэффективной памяти в ИИ-дата-центрах. SOCAMM2 расширяет возможности первых на рынке модулей LPDRAM SOCAMM от Micron, предлагая на 50% больше ёмкости при тех же компактных размерах. Дополнительная ёмкость может значительно сократить время до первого токена (TTFT) более чем на 80% при рабочих нагрузках в режиме реального времени.

Модуль SOCAMM2 на 192 ГБ использует самую передовую технологию производства DRAM 1-gamma от Micron, что обеспечивает повышение энергоэффективности более чем на 20%, дополнительно оптимизируя энергопотребление крупных кластеров дата-центров. Эта экономия становится весьма значительной в полноценных ИИ-стойках, которые могут включать более 40 терабайт низкопотребляющей оперативной памяти DRAM, подключённой к CPU. Модульная конструкция SOCAMM2 улучшает ремонтопригодность и закладывает основу для будущего расширения ёмкости.

Основываясь на пятилетнем сотрудничестве с NVIDIA, Micron стала пионером в использовании энергоэффективной серверной памяти в дата-центрах. SOCAMM2 предоставляет преимущества LPDDR5X — исключительно низкое энергопотребление и высокую пропускную способность — для основной памяти ИИ-систем. Разработанный для удовлетворения растущих потребностей ИИ-платформ с массивным контекстом, SOCAMM2 обеспечивает высокую пропускную способность данных, необходимую для ИИ-нагрузок, одновременно устанавливая новые стандарты энергоэффективности для систем обучения и логического вывода ИИ. Это сочетание преимуществ сделает SOCAMM2 ключевым решением в области памяти для передовых ИИ-платформ в ближайшие годы.

«Поскольку рабочие нагрузки ИИ становятся более сложными и требовательными, серверы дата-центров должны достигать повышенной эффективности, выдавая больше токенов на каждый ватт мощности», — заявил Радж Нарасимхан, старший вице-президент и генеральный менеджер подразделения облачной памяти Micron. «Проверенное лидерство Micron в области низкопотребляющей DRAM гарантирует, что наши модули SOCAMM2 обеспечивают пропускную способность данных, энергоэффективность, ёмкость и качество уровня дата-центра, необходимые для питания следующего поколения серверов ИИ-дата-центров».

Благодаря специализированным конструктивным особенностям и расширенному тестированию, продукты Micron SOCAMM2 преобразуют низкопотребляющую DRAM, изначально разработанную для мобильных телефонов, в решения уровня дата-центра. Огромный опыт в области высококачественной DDR-памяти для дата-центров помогает Micron гарантировать, что SOCAMM2 соответствует строгим требованиям к качеству и надёжности наших клиентов из сферы дата-центров.

SOCAMM2 улучшает энергоэффективность более чем на две трети по сравнению с эквивалентными RDIMM, при этом упаковывая свою производительность в модуль, размер которого составляет одну треть, оптимизируя занимаемую площадь дата-центра и максимизируя ёмкость и пропускную способность. Модульная конструкция SOCAMM и инновационная технология укладки улучшают ремонтопригодность и способствуют проектированию серверов с жидкостным охлаждением.

Micron активно участвовала в определении спецификаций JEDEC SOCAMM2 и тесно сотрудничает с отраслевыми партнёрами для продвижения стандартов, которые ускорят внедрение энергоэффективных решений в ИИ-дата-центрах для повышения энергоэффективности во всей отрасли. Образцы SOCAMM2 для клиентов поставляются сейчас в ёмкости до 192 ГБ на модуль и со скоростью до 9,6 Гбит/с, а серийное производство будет синхронизировано с графиками запуска продуктов клиентами.

Источник: Micron