AMD представляет гибридные процессоры Instinct MI300 для платформ генеративного ИИ
AMD официально представила свои гибридные процессоры Instinct MI300, которые сочетают в себе ядра ЦП Zen 4 с ядрами графического процессора CDNA 3, до 153 миллиардов транзисторов и 192 ГБ памяти HBM3.
Все три производителя чипов, AMD, Intel и NVIDIA, в настоящее время участвуют в гонке за предложение лучшего суперчипа для построения НРС-систем и платформ генеративного ИИ. Предложением Intel должен был стать Falcon Shores, который должен был сочетать процессор x86 с передовым графическим процессором, но эти планы пока не осуществились.
Между тем, ответ NVIDIA представлен в виде суперчипов Grace Hopper, которые сочетают в себе пакет ЦП Grace ARM с графическим процессором Hopper H200 на одной плате, но это все еще далеко от чипсетной интеграции AMD с процессором Zen 4 и графического ядра CDNA 3.
Представляем самый совершенный в мире ускоритель для генеративного ИИ.
AMD раскрыла новые подробности о семействе ускорителей AMD Instinct серии MI300, включая представление ускорителя AMD Instinct MI300X — самого передового в мире ускорителя для генеративного ИИ. MI300X основан на архитектуре ускорителя AMD CDNA 3 следующего поколения и поддерживает до 192 ГБ памяти HBM3, чтобы обеспечить эффективность вычислений и памяти, необходимую для обучения больших языковых моделей и логических выводов для генеративных рабочих нагрузок ИИ.
Благодаря большому объему памяти покупатели AMD Instinct MI300X теперь могут устанавливать большие языковые модели, такие как Falcon-40 на одном ускорителе MI300X. AMD также представила платформу AMD Instinct™, которая объединяет восемь ускорителей MI300X в стандартную отраслевую конструкцию для идеального решения для логического вывода и обучения ИИ. MI300X отбирает образцы для ключевых клиентов, начиная с третьего квартала. AMD также объявила, что AMD Instinct MI300A (первый в мире APU-ускоритель для высокопроизводительных вычислений и рабочих нагрузок с искусственным интеллектом) теперь доступен для тестирования заказчикам.
Таким образом, прямо сейчас AMD предлагает первый интегрированный пакет x86 CPU и GPU в виде APU Instinct MI300. Данный продукт обеспечит стратегическое доминирование AMD в сегменте искусственного интеллекта. APU AMD Instinct MI300 будет работать на суперкомпьютере El Capitan, обеспечивая более 2 экзафлопс мощности двойной точности.
AMD будет использовать как 5-нм, так и 6-нм технологические узлы для своих APU Instinct MI300 «CDNA 3». Чип будет оснащен кэш-памятью Infinity следующего поколения и архитектурой Infinity 4-го поколения, которая обеспечивает поддержку экосистемы CXL 3.0.
Ускоритель Instinct MI300 будет поддерживать унифицированную архитектуру APU с памятью и новые математические форматы, что позволит увеличить производительность на ватт в 5 раз по сравнению с CDNA 2, что является огромным скачком. AMD также прогнозирует более чем в 8 раз более высокую производительность ИИ по сравнению с ускорителями Instinct MI250X на базе CDNA 2.
AMD Instinct MI300 будет доступен в двух вариантах: MI300A и MI300X. APU будет состоять из нескольких пакетов 3D-чипсетов, каждый из которых будет содержать безумные 153 миллиарда транзисторов.
Архитектура CDNA 3 является фундаментальной ДНК Instinct MI300, но APU также поставляется с 304 вычислительными блоками CDNA 4, что в общей сложности составляет 24 576 ядер, до 24 процессоров Zen 4 и до 192 ГБ памяти HBM3 нового поколения.
Линейка APU AMD Instinct MI300 будет совместима с совершенно новым сокетом, известным как SH5, что позволит сконфигурировать до четырех таких чипов вместе с использованием новейшего межсоединения Infinity Fabric и новых межсоединений для более высокой пропускной способности и скорости соединения. Серверное решение будет представлено в виде платформы AMD Instinct, которая будет состоять из 8 микросхем MI300 с памятью HBM3 объемом до 1,5 ТБ в стандартном для отрасли дизайне.
В последних сравнениях производительности AMD продемонстрировала, что Instinct Mi300 обеспечивает 8-кратное повышение производительности ИИ (терафлопс) и 5-кратное повышение производительности ИИ на ватт (терафлопс/ватт) по сравнению с Instinct MI250X. Пробные образцы APU-ускорителей AMD Instinct MI300A проходят тестирование прямо сейчас, а MI300X будут доступны для клиентов AMD в третьем квартале 2023 года.
0 комментариев