Новая сверхбыстрая память ускоряет работу чипов Intel Data Center

Бхану Джайсвал из Intel, менеджер по продукции Xeon в группе Intel Data Center and AI (DCAI), объясняет, что «значительный процент высокопроизводительных вычислительных рабочих нагрузок ограничен пропускной способностью памяти», и именно этот тип больше всего подходит для получения выгоды от MRDIMM. Это звучит почти слишком хорошо, чтобы быть правдой — вот история, стоящая за модулем памяти DDR5 Multiplexed Rank Dual Inline, или MRDIMM для эффективности повествования.

Внедрение параллелизма в системную память вместе с друзьями
Оказывается, самые распространенные модули памяти, используемые для работы в центрах обработки данных, известные как RDIMM, имеют параллельные ресурсы на борту, как и современные процессоры. Они просто не используются таким образом.

«Большинство модулей DIMM имеют два ранга для производительности и емкости», — говорит Джордж Вергис, старший главный инженер по поиску путей памяти в DCAI. «Это золотая середина».

Вы можете думать о рангах как о банках — один чипсет памяти на модуле будет принадлежать одному, а остальные — другому рангу. С RDIMM данные могут храниться и к ним можно получать доступ через несколько рангов независимо, но не одновременно.

Рассматривая эту ситуацию, вспоминает Вергис, «мы подумали: „Подождите-ка. У нас есть параллельные ресурсы, которые не используются. Почему мы не можем объединить их?“» Идея, которую преследовал Вергис, заключалась в том, чтобы поместить небольшую интерфейсную микросхему — мультиплексор или «мультиплексор» — на модуль DRAM. Это позволяет данным проходить через оба ранга памяти за одну и ту же единицу времени.

Буфер мультиплексирования объединяет электрическую нагрузку каждого MRDIMM, что позволяет интерфейсу работать на более высокой скорости по сравнению с RDIMM. И теперь, когда к обоим рангам памяти можно обращаться параллельно, его пропускная способность удвоилась.

Результатом является самая быстрая системная память из когда-либо созданных — скачок, для достижения которого обычно потребовалось бы несколько поколений технологий памяти (в этом случае пиковая пропускная способность увеличивается почти на 40%, с 6400 мегатранзакций в секунду (МТ/с) до 8800 МТ/с).

Тот же стандартный модуль памяти, только быстрее
В этот момент у вас может возникнуть свой собственный вопрос «подождите-ка минутку»: Intel возвращается в бизнес памяти? Нет. Хотя Intel начинала как компания по производству памяти и изобрела такие технологии, как EPROM и DRAM, за свою историю компания выходила из различных направлений производства памяти (некоторые из них были весьма известными).

Но Intel никогда не прекращала усилий по «подъему всех лодок», которые делают различные вычислительные компоненты совместимыми и более производительными. Вергис представляет Intel в совете JEDEC, который устанавливает открытые стандарты для микроэлектронной промышленности, в первую очередь для памяти. Вергис получил награду JEDEC в 2018 году за свою работу над стандартом DDR5, и сейчас он посвящает время DDR6. (JEDEC также чествовала генерального директора Intel Пэта Гелсингера в этом году за карьеру «ярого сторонника открытых стандартов, о чем свидетельствует историческое лидерство Intel в разработке стандартов».)

Вергис и его коллеги начали эту работу в 2018 году и подтвердили концепцию прототипами к 2021 году. Intel объединилась с экосистемой памяти для создания первых компонентов и передала спецификации JEDEC в качестве нового открытого стандарта в конце 2022 года.

Что выделяет MRDIMM, так это простота использования. Он использует тот же разъем и форм-фактор, что и обычный RDIMM (даже маленькие чипы мультиплексора помещаются в ранее пустые места на модуле), таким образом, не требуя никаких изменений в материнской плате.

MRDIMM также обладают всеми теми же функциями исправления ошибок и надежности, доступности и удобства обслуживания (RAS), что и RDIMM. Целостность данных сохраняется независимо от того, как отдельные запросы могут быть мультиплексированы через буфер данных, объясняет Вергис.

Все это означает, что клиенты центров обработки данных могут выбрать MRDIMM при заказе нового сервера или позже они могут вытащить этот сервер из стойки и заменить RDIMM на новые MRDIMM. Ни одной строки кода не нужно менять, чтобы наслаждаться новой производительностью.

Требуется процессор, который может работать с модулями MRDIMM, и первым доступным процессором является Intel Xeon 6 с ядрами Performance под кодовым названием Granite Rapids, который появился на рынке в этом году.

Недавние независимые тесты сравнили две идентичные системы Xeon 6, одну с MRDIMM, а другую с RDIMM. Система с MRDIMM выполнила задания на 33% быстрее.

Джайсвал говорит, что «улучшение пропускной способности, которое обеспечивает MRDIMM, в значительной степени применимо к небольшим языковым моделям и традиционным типам рабочих нагрузок ИИ, связанным с глубоким обучением и рекомендательными системами, которые могут легко работать на Xeon и достигать хорошего прироста производительности с MRDIMM».

Ведущие поставщики памяти представили MRDIMM, и ожидается, что другие производители памяти выпустят еще больше. Высокопроизводительные вычислительные лаборатории, такие как Национальный институт квантовой науки и технологий и Национальный институт науки о термоядерном синтезе, среди прочих, активно внедряют Xeon 6 с P-ядрами из-за MRDIMM при поддержке OEM-производителей, таких как NEC.

«Intel определенно лидирует, — отмечает Джайсвал, — опираясь на мощную экосистему OEM-производителей и поставщиков памяти».

Источник: Techpowerup.com