AMD Ryzen AI Max+ 395: первая платформа для локального запуска ИИ-моделей с 128 млрд параметров

Процессор AMD Ryzen AI Max+ 395 на архитектуре Zen5 стал первой платформой, способной локально запускать крупные модели искусственного интеллекта с 128 миллиардами параметров. Для этого требуется 128 ГБ унифицированной памяти и 96 ГБ выделенной видеопамяти, а также среда Vulkan llama.cpp.

Драйвер для работы с такими моделями пока доступен в тестовой версии 25.10 RC 24, а официальный релиз (версия 25.8.1) ожидается в начале следующего месяца.

Благодаря этому Ryzen AI Max+ 395 стал первой платформой, способной локально запускать модель Meta Llama 4 Sout с 109 миллиардами параметров (размер до 66 ГБ), поддерживающую до 17 миллиардов активных параметров, а также функции Vision и MCP.

Высокая производительность достигается за счёт использования «смешанного режима экспертов» (MoE), который активирует только часть модели для сохранения скорости работы. Процессор способен обрабатывать до 15 токенов в секунду.

Кроме того, Ryzen AI Max+ 395 поддерживает работу с другими крупными моделями, включая:

• Mistral Large Memory (123 млрд параметров, 68 ГБ)
• Qwen3 A3B (30 млрд параметров, 18 ГБ)
• Google Gemma (27 млрд параметров, 17 ГБ)

Важное обновление — увеличение размера контекста с традиционных 4096 токенов до 256 000 токенов, что позволяет анализировать объёмные документы и данные. Для работы с таким контекстом необходимо включить функции Flash Attention и Q8 KV Cache.

Для менее масштабных задач достаточно контекста в 32 000 токенов. Ранее для обработки сверхбольших контекстов требовались десятки или даже сотни тысяч устройств.

Стоимость мини-рабочей станции на базе Ryzen AI Max+ 395 с 128 ГБ памяти составляет около 13 000 юаней (~130 000 рублей), что делает её привлекательным решением для ИИ-разработчиков.

* Meta, Facebook и Instagram запрещены в России.