Процессоры AMD X3D оказались мощнее в AI-задачах, чем в играх: 8 ядер обгоняют 16 ядер

Согласно практическим тестам GiggleHD, процессоры AMD X3D в бенчмарке RAG (Retrieval-Augmented Generation) для искусственного интеллекта демонстрируют гораздо более высокую производительность, чем ожидалось, опережая чипы без 3D V-Cache до 88%.

RAG AI повышает качество ответов больших языковых моделей, извлекая информацию из внешней векторной базы данных. В отличие от чистого вывода LLM, значительная вычислительная нагрузка векторного поиска ложится на CPU, а не на GPU.

По мере развития рабочих нагрузок агентного ИИ, поисково-ориентированных задач становится всё больше, и проблема задержек процессора становится всё более острой.

Алгоритм поиска HNSW (Hierarchical Navigable Small World) — типичный пример: пока GPU выполняет вывод LLM, CPU отвечает за поиск по графу, и больший кэш означает меньшее время поиска.

GiggleHD использовал открытый бенчмарк X3D RAG для сценариев персональных ПК и однопоточных узлов для небольших команд (около 100K-200K векторов), протестировав серию AMD Ryzen 9000X3D и несколько чипов без X3D.

Результаты показали, что при пакетном поиске по 100K векторов процессоры X3D оказались до 88% быстрее, чем чипы без X3D. В тесте с 200K векторов 8-ядерный Ryzen 7 9850X3D был более чем на 50% быстрее, чем Ryzen 7 9700X, причём 8-ядерный чип X3D обогнал по скорости 16-ядерный Ryzen 9 9950X.

В построении индексов время теста для 100K векторов сократилось на 50%, для 200K векторов — на 39%, а пропускная способность при параллельном RAG также была выше у чипов X3D.

Наименьшая разница наблюдалась в пропускной способности TTFT (Time To First Token), поскольку эта задача в основном зависит от GPU, а не от CPU.