HighPoint представила адаптер для GPUDirect Storage: до 64 ГБ/с напрямую от накопителей к GPU

Компания HighPoint представила коммутационную карту Rocket 7638D для интерфейса PCIe 5.0, которая предназначена для реализации технологии Nvidia GPUDirect, обеспечивающей прямое взаимодействие между GPU для искусственного интеллекта и NVMe-накопителями. Устройство призвано ускорить задачи обучения ИИ и инференса при работе с программным обеспечением, полностью поддерживающим GPUDirect.

Последние GPU от Nvidia (начиная с A100) поддерживают технологии GPUDirect, которые позволяют осуществлять прямую передачу данных между графическими процессорами и другими устройствами, такими как SSD или сетевые интерфейсы, в обход центрального процессора и системной памяти. Это повышает производительность и освобождает ресурсы CPU для других задач. Однако для работы GPUDirect требуется поддержка как со стороны GPU, так и со стороны PCIe-коммутатора, обладающего возможностью Peer-to-Peer DMA. Не все коммутаторы PCIe Gen5 поддерживают эту функцию, и здесь на сцену выходят специальные коммутационные карты.

Коммутационная карта HighPoint Rocket 7638D оснащена чистом Broadcom PEX 89048, что позволяет системным интеграторам создавать системы с поддержкой GPUDirect. Адаптер имеет 48 линий PCIe 5.0: 16 линий для подключения к хосту, 16 линий для подключения внешнего GPU-блока с помощью коннектора CDFP CopprLink, и 16 линий выделено для внутренних NVMe-накопителей с использованием коннекторов MCIO 8i. Порты MCIO поддерживают до 16 NVMe-накопителей, позволяя создавать конфигурации с высокопроизводительным хранилищем объемом до 2 ПБ.

Изображение: HighPoint

Адаптер Rocker 7638D обеспечивает рабочие процессы GPUDirect Storage, которые полностью исключают использование хостового CPU и оперативной памяти, предоставляя предсказуемую пропускную способность (до 64 ГБ/с) и задержки при использовании с совместимым программным обеспечением, включая операционную систему, драйверы GPU и файловую систему. Устройство (или, точнее, системы, которые оно позволяет построить) особенно полезно в сценариях, связанных с крупномасштабными наборами данных для обучения, которые используют большое количество хранилищ.

Поскольку коммутационный чип Broadcom PEX 89048 содержит CPU на архитектуре Arm, он является полностью независимым и самоуправляемым, что обеспечивает совместимость как с Arm-, так и с x86-платформами. Адаптер работает «из коробки» со всеми основными операционными системами, без необходимости установки специальных драйверов или дополнительного ПО.

Rocket 7638D включает функции для обслуживания, такие как отслеживание VPD для сопоставления аппаратного и программного обеспечения, а также утилиту для мониторинга состояния здоровья и производительности канала PCIe. Эти инструменты упрощают поиск и устранение неисправностей и замену оборудования, особенно в многопользовательских или гипермасштабных установках, где важна отслеживаемость аппаратного обеспечения.

HighPoint не раскрыла стоимость своей коммутационной карты Rocket 7638D, которая, вероятно, будет зависеть от объемов поставок и других факторов.

Источник: Tomshardware.com