AMD и Intel объединяют усилия. Расширения ACE значительно ускорят вычисления искусственного интеллекта

В прошлом году компании Intel и AMD объявили о создании консультативной группы по экосистеме x86, нацеленной на стандартизацию ключевых функций и обеспечение масштабируемости этой архитектуры в ближайшие годы.

Плодом этого беспрецедентного сотрудничества стала последняя техническая публикация, описывающая работу расширений ACE (AI Compute Extensions). Технология должна стать унифицированным стандартом ускорения матричных вычислений, который заметно повысит производительность искусственного интеллекта, его энергоэффективность и общую масштабируемость на традиционных процессорах.

Умножение матриц является абсолютным фундаментом работы современных нейронных сетей и больших языковых моделей. Текущие используемые инструкции, такие как, например, AVX10, предлагают определенную поддержку в этой области, однако их потенциал и вычислительная плотность при выполнении сложных задач часто сильно ограничены. Новое решение, разработанное совместно обоими производителями, без проблем интегрируется с набором AVX10, внедряя ускорение на основе внешнего векторного произведения.

Это позволяет добиться шестнадцатикратного увеличения вычислительной плотности по сравнению со стандартными операциями умножения и накопления, при сохранении того же количества входных векторов. Расширения нативно поддерживают наиболее популярные форматы данных, используемые в машинном обучении, включая INT8, OCP FP8, OCP MXFP8 и BF16.

Масштабируемость предлагаемого стандарта позволит его беспрепятственное внедрение в широком спектре устройств, начиная от мобильных ноутбуков и заканчивая мощными суперкомпьютерами. Согласно официальной информации, представленной в документе, уже ведутся продвинутые работы по внедрению необходимого программного обеспечения и поддержки в ключевых исследовательских средах. Это включает интеграцию с популярными библиотеками, такими как NumPy и SciPy, а также платформами машинного обучения вроде PyTorch и TensorFlow.

Стоит в этом месте напомнить слова генерального директора Nvidia, который недавно открыто признал, что тесный союз бывших конкурентов был необходимым шагом для того, чтобы сохранить архитектуру x86 живой в эпоху динамичного развития искусственного интеллекта.