Arm и партнеры разрабатывают ИИ-процессор: Neoverse V3 CSS, изготовленный на 2 нм Samsung GAA FET

Вчера Arm объявила о значительном прогрессе в своей инициативе Total Design. Программа, запущенная год назад, направлена на ускорение разработки специализированных кремниевых чипов для центров обработки данных путем содействия сотрудничеству между отраслевыми партнерами. Экосистема теперь выросла и включает почти 30 компаний-участников, с недавними дополнениями, такими как Alcor Micro, Egis, PUF Security и SEMIFIVE. Заметным событием является партнерство между Arm, Samsung Foundry, ADTechnology и Rebellions по созданию платформы чиплетов AI CPU. Это сотрудничество направлено на предоставление решения для облачных, HPC и рабочих нагрузок AI/ML, объединяя ускоритель AI Rebellions с вычислительным чиплетом ADTechnology, реализованным с использованием технологии 2 нм Gate-All-Around (GAA) FET от Samsung Foundry. Ожидается, что платформа обеспечит значительный рост эффективности для генеративных рабочих нагрузок AI, при этом оценки предполагают 2-3-кратное улучшение по сравнению со стандартной конструкцией CPU для LLM, таких как Llama3.1 с 405 миллиардами параметров.

Подход Arm подчеркивает важность вычислений на ЦП для поддержки полного стека ИИ, включая предварительную обработку данных, оркестровку и передовые методы, такие как генерация дополненной извлечения (RAG). Вычислительные подсистемы (CSS) компании предназначены для удовлетворения этих требований, предоставляя партнерам основу для создания разнообразных решений на основе чиплетов. Несколько компаний, включая Alcor Micro и Alphawave, уже объявили о планах по разработке чиплетов на базе CSS для различных приложений ИИ и высокопроизводительных вычислений. Инициатива также фокусируется на готовности программного обеспечения, гарантируя, что основные фреймворки и операционные системы совместимы с системами на базе Arm. Недавние усилия включают внедрение технологии Arm Kleidi, которая оптимизирует вывод на основе ЦП для проектов с открытым исходным кодом, таких как PyTorch и Llama.cpp. Примечательно, что, как утверждает Google, большинство рабочих нагрузок ИИ выводятся на ЦП, поэтому создание наиболее эффективных и производительных ЦП для ИИ имеет большой смысл.