Arm и партнеры разрабатывают ИИ-процессор: Neoverse V3 CSS, изготовленный на 2 нм Samsung GAA FET

16 октября 2024, 16:56 / Технологии → Новости / Технологии

Вчера Arm объявила о значительном прогрессе в своей инициативе Total Design. Программа, запущенная год назад, направлена на ускорение разработки специализированных кремниевых чипов для центров обработки данных путем содействия сотрудничеству между отраслевыми партнерами. Экосистема теперь выросла и включает почти 30 компаний-участников, с недавними дополнениями, такими как Alcor Micro, Egis, PUF Security и SEMIFIVE. Заметным событием является партнерство между Arm, Samsung

Samsung Group (произносится «Сáмсунг Груп», кор. 삼성그룹, Samseong Gurub, Samsŏng Gurup) — южнокорейская группа компаний, один из крупнейших чеболей, основанный в 1938 году. На мировом рынке известен как производитель высокотехнологичных компонентов, телекоммуникационного оборудования, бытовой техники, аудио- и видеоустройств. Главный офис компании расположен в Сеуле. Википедия

Foundry, ADTechnology и Rebellions по созданию платформы чиплетов AI CPU. Это сотрудничество направлено на предоставление решения для облачных, HPC и рабочих нагрузок AI/ML, объединяя ускоритель AI Rebellions с вычислительным чиплетом ADTechnology, реализованным с использованием технологии 2 нм Gate-All-Around (GAA) FET от Samsung Foundry. Ожидается, что платформа обеспечит значительный рост эффективности для генеративных рабочих нагрузок AI, при этом оценки предполагают 2-3-кратное улучшение по сравнению со стандартной конструкцией CPU для LLM, таких как Llama3.1 с 405 миллиардами параметров.

Подход Arm подчеркивает важность вычислений на ЦП для поддержки полного стека ИИ

Thumbnail: Искусственный интеллект Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

, включая предварительную обработку данных, оркестровку и передовые методы, такие как генерация дополненной извлечения (RAG). Вычислительные подсистемы (CSS) компании предназначены для удовлетворения этих требований, предоставляя партнерам основу для создания разнообразных решений на основе чиплетов. Несколько компаний, включая Alcor Micro и Alphawave, уже объявили о планах по разработке чиплетов на базе CSS для различных приложений ИИ и высокопроизводительных вычислений. Инициатива также фокусируется на готовности программного обеспечения, гарантируя, что основные фреймворки и операционные системы совместимы с системами на базе Arm. Недавние усилия включают внедрение технологии Arm Kleidi, которая оптимизирует вывод на основе ЦП для проектов с открытым исходным кодом, таких как PyTorch и Llama.cpp. Примечательно, что, как утверждает Google, большинство рабочих нагрузок ИИ выводятся на ЦП, поэтому создание наиболее эффективных и производительных ЦП для ИИ имеет большой смысл.