MemryX выпустила модуль ИИ MX3 M.2 за 149 долларов

/ ТехнологииНовости / Технологии

MemryX, технологический стартап, созданный в Мичиганском университете, выпустил модуль M.2 стоимостью $149 [PDF], предназначенный для предоставления эффективных возможностей обработки ИИ

Thumbnail: Искусственный интеллектИску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

Читайте также:Разработчики Catly настаивают, что в трейлере не использовался генеративный ИИSSD-накопитель PS1012 U.2 для дата-центров ИИMarvell анонсирует специализированную вычислительную архитектуру HBM для ускорителей ИИMarvell анонсирует новую архитектуру HBM для ИИ-ускорителейNVIDIA демонстрирует будущий дизайн ускорителя ИИ: кремниевая фотоника и DRAM поверх вычислений

для компактных вычислительных систем. Модуль нацелен на периферийные вычислительные приложения, где энергоэффективность и компактный дизайн имеют решающее значение.
Упаковка четырех чипов ускорителя ИИ MemryX MX3 в стандартный форм-фактор M.2 2280 позволяет модулю легко интегрироваться в системы, оснащенные слотом PCIe

Thumbnail: PCI ExpressPCI Express (Peripheral Component Interconnect Express), или PCIe, или PCI-e (также известная как 3GIO for 3rd Generation I/O; не путать с PCI-X и PXI) — компьютерная шина (хотя на физическом уровне шиной не является, будучи соединением типа «точка-точка»), использующая программную модель шины PCI и высокопроизводительный физический протокол, основанный на последовательной передаче данных. Разработка стандарта PCI Express была начата фирмой Intel после отказа от шины InfiniBand. Официально первая базовая спецификация PCI Express появилась в июле 2002 года. Развитием стандарта PCI Express занимается организация PCI Special Interest Group. Википедия

Читайте также:Silicon Power представляет свой первый твердотельный накопитель M.2 PCIe 2230 E-KeyAcer представляет новый твердотельный накопитель FA200 M.2 PCIe 4.0GameMax представляет блоки питания серии GS SFX Gold со стандартами ATX 3.1 и PCIe 5.1PNY представляет твердотельный накопитель CS2150 M.2 NVMe PCIe Gen 5 x4PNY выпустила бюджетные PCIe 5.0 SSD-накопители

Gen 3 M.2. Говорят, что каждый чип MX3 обеспечивает 6 TOPS (тера операций в секунду), предлагая в общей сложности до 24 TOPS вычислительной мощности при потреблении всего 6-8 Вт мощности. Он также поддерживает ряд форматов данных, включая 4-битные, 8-битные, 16-битные веса и BFloat16. Примечательно, что модуль работает без активного охлаждения, полагаясь на включенный пассивный радиатор для управления тепловыми характеристиками.

Компания Phoronix протестировала модуль MemryX MX3 M.2, оценив его производительность и удобство использования в качестве ускорителя ИИ. Модуль был установлен в системе со слотом M.2 PCIe Gen 3 под управлением Ubuntu 24.04 LTS и оказался простым в интеграции благодаря драйверам MemryX с открытым исходным кодом и инструментам разработчика. Производительность модуля в 24 TOPS от четырех чипов MemryX MX3, как говорят, достаточна для различных рабочих нагрузок вывода, особенно оптимизированных для 8-битных весов.

(Изображение предоставлено: Phoronix)

(Изображение предоставлено: Phoronix)

(Изображение предоставлено: Phoronix)

Обзор также подчеркнул сильную совместимость программного обеспечения модуля, поддержку таких фреймворков, как TensorFlow и ONNX, и его эффективность в запуске небольших и средних моделей ИИ. Каждый чип MX3 поддерживает до 10,5 миллионов 8-битных параметров, а четыре чипа модуля в совокупности обрабатывают в общей сложности до 42 миллионов параметров. Это ограничение возникает из-за отсутствия встроенной DRAM. MemryX планирует решить эту проблему с помощью новой карты PCIe в 2025 году, которая получит больше встроенных чипов MX3 AI.

Модуль MX3 M.2 доступен по цене 149 долларов США, что делает его доступным вариантом для разработчиков и организаций, стремящихся добавить возможности обработки ИИ к периферийным устройствам. MemryX также объявила, что модуль будет представлен на предстоящей выставке Consumer Electronics Show (CES) 2025 в Лас-Вегасе, где она планирует продемонстрировать производительность MX3 в различных реальных приложениях, еще больше подчеркивая его универсальность.

Источник: Tomshardware.com

Подписаться на обновления Новости / Технологии

ℹ️ Помощь от ИИ

В статье есть ошибки или у вас есть вопрос? Попробуйте спросить нашего ИИ-помощника в комментариях и он постарается помочь!

⚠️ Важно:

• Rutab-Бот читает ваши комментарии и готов вам помочь.
• Просто задайте вопрос и обновите страницу через пару минут 👍
• Rutab-Бот работает в тестовом режиме и может ошибаться, либо просто не знать ответа.
• К ИИ-помощнику можно обратиться по имени Rutab или Рутаб.

Топ дня 🌶️


0 комментариев

Оставить комментарий


Новые комментарии

Эта ошибка из Tomshardware перекочевала fixed
  • Sam
Разница в том, что апартеид был системой угнетения, лишавшей чернокожих базовых прав, а BEE — это меры по исправлению последствий этой системы. Да, формально белый предприниматель из другой страны...
  • Rutab
Я ИИ-помощник на сайте Rutab.net, который помогает пользователям разбираться в тематиках статей — технологиях, науке, играх, фильмах и многом другом 😊 Можешь спрашивать меня о чем угодно!
  • Rutab
В статье не указан точный размер модели Falcon-H1, но упоминается, что это «компактная модель», превосходящая аналоги от Meta и Alibaba. Вероятно, речь идет о параметрах в диапазоне 1-10 млрд (как...
  • Rutab
Вангую Huang Tracing будет еще лучше, чем Ray Tracing и Path Tracing
  • Анон
Робот «Фёдор» (FEDOR — Final Experimental Demonstration Object Research) — это российский антропоморфный робот, разработанный ФПИ и НПО «Андроидная техника». В 2019 году он даже летал на МКС, но...
  • Rutab
Ошибка 5188 в MemTest86+ указывает на проблему с оперативной памятью (DDR4). Попробуйте следующие шаги: 1. Проверьте каждую планку RAM по отдельности — возможно, одна из них неисправна. 2....
  • Rutab
а разве рыцари Круглого стола и викинги не были чернокожими???
  • Анон
игра с формированием ложного самомнения через подхалимаж. ---По образу и подобию .....
  • Анон
Если игра упирается в производительность видеокарты, то хоть заускоряй процессор, а FPS больше не будет. Я у себя на синтетических тестах получил лишь меньшую задержку памяти. В играх практически...
  • Анон

Смотреть все