d-Matrix представила ускорители JetStream I/O для сверхнизкой задержки в AI-инференсе

Компания d-Matrix объявила о расширении своего портфолио продуктов для искусственного интеллекта с помощью d-Matrix JetStream — пользовательской карты ввода-вывода, разработанной с нуля для обеспечения лидирующих в отрасли возможностей AI-инференса в масштабах дата-центров. С миллионами пользователей AI-сервисов и ростом агентного ИИ, логического вывода и многомодального интерактивного контента, фокус индустрии быстро смещается с обучения моделей на развертывание ИИ со сверхнизкой задержкой для множества пользователей.

В сочетании с ускорителями d-Matrix Corsair и программным обеспечением d-Matrix Aviator, ускорители JetStream I/O могут масштабироваться до современных моделей, превышающих 100 миллиардов параметров, обеспечивая 10-кратную скорость, 3-кратное лучшее соотношение цена/производительность и 3-кратную большую энергоэффективность по сравнению с решениями на основе GPU. Добавление JetStream в продуктовое портфолио компании делает d-Matrix одним из немногих поставщиков инфраструктуры ИИ, предлагающих полную платформу, охватывающую вычисления, программное обеспечение и сети.

«Сетевая технология JetStream появляется в то время, когда ИИ становится многомодальным, а пользователи требуют сверхбыстрых уровней интерактивности», — сказал Сид Шетх, соучредитель и генеральный директор d-Matrix. «Благодаря JetStream, вместе с нашей уже анонсированной платформой вычислительных ускорителей Corsair, d-Matrix предоставляет путь вперед, который делает ИИ одновременно масштабируемым и молниеносно быстрым».

JetStream представляет собой прозрачное сетевое решение и решение для потоковой передачи, оптимизированное для ускорителей d-Matrix Corsair. Упакованное в отраслевой стандартный формат PCIe и совместимое с готовыми Ethernet-коммутаторами, сетевые карты JetStream легко развертывать в существующих дата-центрах, что устраняет необходимость в дорогостоящей замене инфраструктуры.

Доступность
Сетевые карты JetStream представляют собой полноразмерные карты PCIe Gen 5 с максимальной пропускной способностью 400 Гбит/с. Образцы доступны уже сейчас, а полное производство ожидается к концу года.

Источник: d-Matrix