Axelera AI представила ускоритель Metis M.2 Max для ИИ на периферии с удвоенной производительностью

Компания Axelera AI, ведущий поставщик специализированных аппаратных технологий для ускорения искусственного интеллекта, объявила о выпуске Metis M.2 Max — нового решения в семействе процессорных блоков ИИ Metis AIPU. Устройство формата M.2 обеспечивает производительность, сравнимую с PCIe-картами, и предназначено для наиболее требовательных к вычислениям задач ИИ-инференса на периферии, включая улучшенную работу с большими языковыми моделями (LLM) и сетями-трансформерами для компьютерного зрения.

Metis M.2 Max улучшает текущую версию Metis M.2 за счёт удвоенной пропускной способности памяти, более тонкого профиля, усовершенствованной системы терморегулирования и дополнительных функций безопасности. Модуль будет оснащаться до 16 ГБ памяти. Кроме того, Axelera предложит версии Metis M.2 Max как для стандартного диапазона рабочих температур (от -20°C до +70°C), так и для расширенного (от -40°C до +85°C) для работы в жёстких условиях. Эти улучшения делают новинку идеальной для применений в промышленном производстве, ритейле, системах безопасности, здравоохранении и общественной безопасности.

«Мы продолжаем задавать стандарты соотношения цена/производительность на рынке ускорителей ИИ, — заявил генеральный директор Axelera AI Фабрицио дель Маффео. — Наша цель — позволить клиентам масштабно развёртывать преобразующие периферийные ИИ-приложения. Metis M.2 Max и наша оригинальная карта Metis M.2 позволяют клиентам выбрать решение, которое наилучшим образом соответствует их требованиям — от компьютерного зрения до больших языковых моделей и новейших трансформеров. Мы также добавляем улучшенную безопасность для противодействия растущим угрозам на периферии».

Metis M.2 Max основан на проверенной архитектуре Metis AIPU от Axelera AI и предлагает высокую производительность и эффективность для больших требовательных моделей, таких как системы компьютерного зрения и генеративный ИИ, включая LLM и визуально-языковые модели (VLM). M.2 Max обеспечивает прирост производительности на 33% в свёрточных нейронных сетях (CNN) и удваивает количество токенов в секунду для LLM и VLM, оставаясь при этом в типичном среднем диапазоне энергопотребления 6,5 Вт.

Поскольку безопасность имеет первостепенное значение на периферии, Metis M.2 Max включает улучшенные функции защиты, в том числе обеспечение целостности прошивки через безопасно подготовленный корень доверия, что позволяет реализовать безопасную загрузку и безопасное обновление. Эти меры безопасности работают прозрачно, не требуя вмешательства пользователя, и помогают гарантировать, что в клиентских системах будет работать только аутентифицированная прошивка, выпущенная Axelera AI.

Metis M.2 Max, представляющий собой модуль формата 2280 M.2 M-key, будет доступен как в виде отдельной платы, так и с опциональным низкопрофильным радиатором. Такая конструкция уменьшает высоту карты на 27% по сравнению с текущей версией M.2, позволяя использовать более широкий диапазон конфигураций. Кроме того, для пользователей, которым нужны возможности ИИ в условиях ограничений по питанию или тепловыделению, встроенный датчик питания может использоваться для автоматической корректировки производительности под конкретные настройки.

Axelera AI упрощает для разработчиков интеграцию Metis M.2 Max в свои ИИ-проекты с помощью Voyager SDK. Voyager раскрывает весь потенциал процессоров Metis AIPU и упрощает развёртывание как проприетарных, так и отраслевых стандартных моделей.

Поставки Metis M.2 Max начнутся в четвертом квартале 2025 года через веб-магазин Axelera AI или через партнёров компании по каналам сбыта.

Источник: Axelera AI