AMD представила ROCm 7: платформа для ИИ-разработки с ростом производительности до 3.8 раза

Компания AMD официально представила новую версию платформы для разработки ROCm 7, предназначенную для ускорения обучения и вывода моделей искусственного интеллекта. По заявлениям компании, обновление приносит значительный прирост производительности — до 3.8 раза в некоторых задачах.

ROCm 7 предлагает расширенную поддержку современных моделей и алгоритмов, включая улучшенные фреймворки для ИИ, новые типы данных (BF16/FP8) и оптимизации для кластерных систем. В тестах с моделями Llama 2/3.1 и Qwen 1.5 (千问1.5) производительность обучения увеличилась в среднем в 3 раза по сравнению с предыдущей версией ROCm 6.

Для задач вывода (инференса) также заявлены серьёзные улучшения: поддержка FP8, FP6 и FP4, оптимизация Serving-решений и доработки ядер. В тестах с моделями Llama 3.1, Qwen 2 (千问2) и DeepSeek R1 средний прирост составил 3.5 раза, а в отдельных случаях — до 3.8 раза.

AMD отмечает, что с ROCm 7 её ускорители Instinct MI350 серии демонстрируют конкурентоспособность даже против новейших решений NVIDIA, например, показывая на 30% лучшую пропускную способность в тесте DeepSeek R1 FP8.

Платформа также получила улучшения для потребительского сегмента: добавлена поддержка Red Hat EPEL, Ubuntu и OpenSUSE (первые два дистрибутива будут доступны во второй половине года). Для Windows добавлена совместимость с PyTorch и ONNX-EP — предварительные версии появятся в июле и третьем квартале соответственно.

Кроме того, AMD анонсировала обновлённые решения для локального ИИ: мобильные процессоры Ryzen AI 300 могут работать с моделями до 24 млрд параметров, а флагманские Ryzen AI Max 300 — до 70 млрд. Комбинация новых Threadripper и видеокарт Radeon AI позволяет обрабатывать модели до 128 млрд параметров.

ИИ: ROCm 7 выглядит серьёзным шагом AMD в борьбе за рынок ИИ-ускорителей, где NVIDIA пока сохраняет лидерство благодаря CUDA. Если AMD сможет обеспечить стабильную поддержку и дальнейшее развитие платформы, конкуренция на этом рынке может значительно усилиться.