Axiomtek раскрывает новые возможности для ИИ в реальном времени на периферии с помощью NVIDIA Jetson Orin Super Mode

Компания Axiomtek, мировой лидер в области разработки и производства инновационных промышленных компьютерных решений, объявила о поддержке режима Super Mode в своих устройствах серии AIE на базе NVIDIA Jetson Orin. В линейку входят компактные и надежные модели AIE100-ONA и AIE110-ONA, предназначенные для обработки ИИ-нагрузок в реальном времени в таких сферах, как интеллектуальный транспорт и умные парковки. Благодаря новому высокопроизводительному режиму от NVIDIA системы теперь демонстрируют беспрецедентную производительность в задачах ИИ-инференса.

С ростом спроса на умные транспортные и парковочные системы перед интеграторами встает задача развертывания периферийных ИИ-решений, способных одновременно обрабатывать многопоточную видеоаналитику, распознавание номерных знаков, детекцию объектов и прогнозирование — с жесткими требованиями к задержкам. Включение функции Super Mode на NVIDIA Jetson Orin Nano в устройствах AIE100-ONA и AIE110-ONA от Axiomtek обеспечивает значительный прирост производительности для таких сценариев.

Режим Super Mode оптимизирует загрузку CPU и GPU на платформе Orin Nano, позволяя выполнять более сложные ИИ-модели с повышенной параллельностью и эффективностью. На практике это означает, что каждое периферийное устройство теперь может обрабатывать больше видеопотоков и более тяжелые модели ИИ, сокращая затраты на инфраструктуру и повышая точность детекции.

Повышение эффективности развертывания ИИ
В ответ на растущий спрос на умные городские решения команда Axiomtek пересмотрела подход к соотношению «цена-производительность» в компактных периферийных ИИ-системах. «Наши клиенты ищут компактные системы, способные справляться с более сложными ИИ-задачами без увеличения стоимости или сложности развертывания», — отметил Кен Пан, менеджер по продуктам.

Это привело к стратегическому пересмотру приоритетов разработки. «Мы задались вопросом: что приносит больше пользы на каждый ватт, доллар и цикл развертывания?» — пояснил Робин Лин, руководитель отдела интеллектуальной автоматизации. Результатом стал фокус на полном раскрытии потенциала режима Super Mode как ключевого фактора масштабируемости.

«В тестах с оптимизированными моделями YOLO через TensorRT и DeepStream SDK мы наблюдали увеличение пропускной способности в 1,5–2 раза при активации Super Mode, — сообщил Винсент Чен, старший инженер отдела ИИ-разработки. — Теперь задачи, для которых раньше требовалось два устройства, можно выполнять на одном AIE100-ONA с сохранением работы в реальном времени. Это позволяет сократить затраты на инфраструктуру».

Доказанный прирост для задач компьютерного зрения
В тестах с моделями YOLOv8 при оптимизации через TensorRT активация Super Mode на AIE100-ONA показала значительное увеличение скорости обработки. Например, YOLOv8n ускорился с 91,5 до 141,96 кадров в секунду, а YOLOv8s — с 73,75 до 116,47 FPS. Кроме того, режим позволяет использовать более точные модели, такие как YOLOv8l (52% mAP) и YOLOv8x (53,9% mAP).

Идеальное решение для умного транспорта и парковок
В системах умных парковок AIE100-ONA с Super Mode может одновременно обрабатывать мониторинг въездов, распознавание номеров, прогнозирование свободных мест и отслеживание пешеходов. Аналогично, в управлении трафиком одно устройство способно выполнять детекцию объектов, трекинг транспорта и анализ потока в реальном времени.

Проектирование для долгосрочного использования
Серия AIE от Axiomtek отличается промышленным исполнением, поддержкой PoE, широким набором интерфейсов и совместимостью с DeepStream SDK и TensorRT. Благодаря поддержке LTE, Wi-Fi и NVMe эти устройства предназначены для работы в сложных условиях. Модели AIE100-ONA и AIE110-ONA с поддержкой Super Mode позволяют масштабировать высоконагруженные ИИ-приложения с меньшими затратами.

С Super Mode устройства AIE100-ONA и AIE110-ONA становятся не просто компактными периферийными системами, а инструментами для создания умных городов следующего поколения.

Источник: Techpowerup.com