MemryX выпустила модуль ИИ MX3 M.2 за 149 долларов

/ ТехнологииНовости / Технологии

MemryX, технологический стартап, созданный в Мичиганском университете, выпустил модуль M.2 стоимостью $149 [PDF], предназначенный для предоставления эффективных возможностей обработки ИИ

Thumbnail: Искусственный интеллектИску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

Читайте также:Разработчики Catly настаивают, что в трейлере не использовался генеративный ИИSSD-накопитель PS1012 U.2 для дата-центров ИИMarvell анонсирует специализированную вычислительную архитектуру HBM для ускорителей ИИMarvell анонсирует новую архитектуру HBM для ИИ-ускорителейNVIDIA демонстрирует будущий дизайн ускорителя ИИ: кремниевая фотоника и DRAM поверх вычислений

для компактных вычислительных систем. Модуль нацелен на периферийные вычислительные приложения, где энергоэффективность и компактный дизайн имеют решающее значение.
Упаковка четырех чипов ускорителя ИИ MemryX MX3 в стандартный форм-фактор M.2 2280 позволяет модулю легко интегрироваться в системы, оснащенные слотом PCIe

Thumbnail: PCI ExpressPCI Express (Peripheral Component Interconnect Express), или PCIe, или PCI-e (также известная как 3GIO for 3rd Generation I/O; не путать с PCI-X и PXI) — компьютерная шина (хотя на физическом уровне шиной не является, будучи соединением типа «точка-точка»), использующая программную модель шины PCI и высокопроизводительный физический протокол, основанный на последовательной передаче данных. Разработка стандарта PCI Express была начата фирмой Intel после отказа от шины InfiniBand. Официально первая базовая спецификация PCI Express появилась в июле 2002 года. Развитием стандарта PCI Express занимается организация PCI Special Interest Group. Википедия

Читайте также:Silicon Power представляет свой первый твердотельный накопитель M.2 PCIe 2230 E-KeyAcer представляет новый твердотельный накопитель FA200 M.2 PCIe 4.0GameMax представляет блоки питания серии GS SFX Gold со стандартами ATX 3.1 и PCIe 5.1PNY представляет твердотельный накопитель CS2150 M.2 NVMe PCIe Gen 5 x4PNY выпустила бюджетные PCIe 5.0 SSD-накопители

Gen 3 M.2. Говорят, что каждый чип MX3 обеспечивает 6 TOPS (тера операций в секунду), предлагая в общей сложности до 24 TOPS вычислительной мощности при потреблении всего 6-8 Вт мощности. Он также поддерживает ряд форматов данных, включая 4-битные, 8-битные, 16-битные веса и BFloat16. Примечательно, что модуль работает без активного охлаждения, полагаясь на включенный пассивный радиатор для управления тепловыми характеристиками.

Компания Phoronix протестировала модуль MemryX MX3 M.2, оценив его производительность и удобство использования в качестве ускорителя ИИ. Модуль был установлен в системе со слотом M.2 PCIe Gen 3 под управлением Ubuntu 24.04 LTS и оказался простым в интеграции благодаря драйверам MemryX с открытым исходным кодом и инструментам разработчика. Производительность модуля в 24 TOPS от четырех чипов MemryX MX3, как говорят, достаточна для различных рабочих нагрузок вывода, особенно оптимизированных для 8-битных весов.

(Изображение предоставлено: Phoronix)

(Изображение предоставлено: Phoronix)

(Изображение предоставлено: Phoronix)

Обзор также подчеркнул сильную совместимость программного обеспечения модуля, поддержку таких фреймворков, как TensorFlow и ONNX, и его эффективность в запуске небольших и средних моделей ИИ. Каждый чип MX3 поддерживает до 10,5 миллионов 8-битных параметров, а четыре чипа модуля в совокупности обрабатывают в общей сложности до 42 миллионов параметров. Это ограничение возникает из-за отсутствия встроенной DRAM. MemryX планирует решить эту проблему с помощью новой карты PCIe в 2025 году, которая получит больше встроенных чипов MX3 AI.

Модуль MX3 M.2 доступен по цене 149 долларов США, что делает его доступным вариантом для разработчиков и организаций, стремящихся добавить возможности обработки ИИ к периферийным устройствам. MemryX также объявила, что модуль будет представлен на предстоящей выставке Consumer Electronics Show (CES) 2025 в Лас-Вегасе, где она планирует продемонстрировать производительность MX3 в различных реальных приложениях, еще больше подчеркивая его универсальность.

Источник: Tomshardware.com

Подписаться на обновления Новости / Технологии

0 комментариев

Оставить комментарий


Новые комментарии

Поддерживаю. А еще если брать в разрезе Илон Маск и безопасность данных, то вообще смешно. Особенно для жителей РФ)О конфиденциальности можно забыть
  • Анон
1c пох на ваши операции, количество ядер и прочее. Умудрились написать ядро четко привязанное к Мгц. Единственный в мире продукт для 1го ядра.
  • Анон
Указан неверный диаметр вентиляторов, не 80 мм, а 100 мм. И чип не 103, а 102.
  • Анон
С прошлым обновлением как раз и появилась эта ошибка. А новое как и написано не дают скачать.
  • Анон
При включении 3D Turbo Mode у вас максимум будет доступно 8 ядер и 8 потоков всего. т.е. если у вас 16 ядерный на 32 потока то будет всего 8 ядер и 8 потоков! Странная оптимизация!
  • Анон
После скачивания вышел синий экран СУПЕР!
  • Анон
требуется указать магазин и purchase date без этого не регистрирует
  • Анон
Россия на них клала❤❤❤❤, будет называться Ладушка 2.0 )))
  • Анон
ДА у меня тоже неработает уже все Вы не знаете каким способом вернуть все обратно СПАСИ
  • Анон

Смотреть все