AMD ROCm 6.1: новое ПО для разработчиков ИИ

20 июня 2024, 11:19 / Технологии → Новости / Технологии

Компания AMD

Advanced Micro Devices, Inc. (AMD, дословный перевод с англ. — «передовые микроустройства») — производитель интегральной микросхемной электроники. Второй по объему производства и продаж производитель процессоров архитектуры x86 c долей рынка 16,9 %▲(2014), а также один из крупнейших производителей графических процессоров (после приобретения ATI Technologies в 2006 году), чипсетов для материнских плат и флеш-памяти. Компания с 2009 года не имеет собственного производства и размещает заказы на мощностях других компаний. Википедия

представила последнюю версию своего открытого программного обеспечения — AMD ROCm 6.1.3, ознаменовав следующий шаг в своей стратегии по обеспечению широкой доступности программного обеспечения ROCm для всего своего портфолио графических процессоров, включая графические процессоры AMD Radeon

Radeon /ˈreɪdiːɒn/ — торговая марка графических процессоров и оперативной памяти, производимых компанией Advanced Micro Devices. Торговая марка была создана в 2000 году компанией ATI Technologies (в дальнейшем приобретённой компанией AMD). Графические решения этой серии пришли на смену серии Rage. Под этой маркой существует четыре большие группы устройств, которые могут быть классифицированы в первую очередь по поддерживаемой версии DirectX. Можно продолжить деление на меньшие классификационные единицы, например, по версии HyperZ, количеству пиксельных конвейеров, а также частоте работы процессора и памяти. Википедия

для настольных ПК. Новый выпуск предоставляет разработчикам более широкую поддержку графических процессоров Radeon для выполнения рабочих нагрузок ROCm AI. «Новая версия AMD ROCm расширяет функциональное равенство от центров обработки данных до настольных компьютеров, позволяя проводить исследования и разработки в области искусственного интеллекта на легкодоступных и доступных платформах», — сказал Андрей Здравкович, старший вице-президент AMD.

Ключевые улучшения функций в этом выпуске направлены на улучшение совместимости, доступности и масштабируемости и включают в себя:

Поддержка нескольких графических процессоров, позволяющая создавать масштабируемые настольные компьютеры с искусственным интеллектом для многосерверных и многопользовательских решений.
Поддержка бета-уровня подсистемы Windows для Linux, позволяющая этим решениям работать с ROCm в системе на базе ОС Windows.
Поддержка TensorFlow Framework, предлагающая больше возможностей для разработки ИИ.

ROCm 6.1.3 теперь поддерживает до четырех сертифицированных графических процессоров серии Radeon RX или Radeon PRO, что позволяет пользователям использовать конфигурации с параллелизмом данных, при которых каждый графический процессор независимо вычисляет логические выводы и выводит ответ. Это позволяет создавать многопользовательские конфигурации на базе клиента на базе программного обеспечения AMD ROCm и графических процессоров Radeon.

С помощью ROCm 6.1.3 мы еще больше упрощаем разработку для искусственного интеллекта благодаря поддержке бета-уровня подсистемы Windows для Linux

Thumbnail: Linux Linux (/ˈlɪnəks/ [ˈlɪnəks] или [ˈlɪnʊks]), Ли́нукс) — семейство Unix-подобных операционных систем на базе ядра Linux, включающих тот или иной набор утилит и программ проекта GNU, и, возможно, другие компоненты. Как и ядро Linux, системы на его основе как правило создаются и распространяются в соответствии с моделью разработки свободного и открытого программного обеспечения. Linux-системы распространяются в основном бесплатно в виде различных дистрибутивов — в форме, готовой для установки и удобной для сопровождения и обновлений, — и имеющих свой набор системных и прикладных компонентов, как свободных, так возможно и собственнических. Появившись как решения вокруг созданного в начале 1990-х годов ядра, уже с начала 2000-х годов системы Linux являются основными для суперкомпьютеров и серверов, расширяется применение их для встраиваемых систем и мобильных устройств, некоторое распространение системы получили и для персональных компьютеров. Википедия

, также известной как WSL 2. Это означает, что теперь вы можете запускать инструменты искусственного интеллекта на базе Linux в системе Windows. WSL 2 устраняет необходимость в выделенной системе Linux или настройке двойной загрузки.

Кроме того, мы объявляем о квалификации платформы TensorFlow, предоставляющей еще один выбор для разработки ИИ

Thumbnail: Искусственный интеллект Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

помимо PyTorch и ONNX, которые уже поддерживались, расширяя нашу надежную открытую экосистему платформ и библиотек.

Кроме того, мы расширяем наше предложение по клиентской разработке искусственного интеллекта, представляя двухслотовую карту AMD Radeon PRO W7900, которая объединяет 192 ускорителя искусственного интеллекта и 48 ГБ быстрой памяти GDDR6 в компактном форм-факторе для более высокой плотности на уровне системы.

Рабочие станции AMD AI, оснащенные графическим процессором Radeon PRO W7900, представляют собой новое решение для точной настройки и выполнения выводов на больших языковых моделях (LLM) с высокой точностью. Например, LLaMA-2 или LLaMA-3 с параметрами 70B, квантованными в INT4, требуют не менее 35 ГБ локальной памяти графического процессора, что делает графический процессор Radeon PRO W7900 с 48 ГБ быстрой встроенной памяти правильным выбором для рабочих процессов, в которых используются эти модели.

Генеративный искусственный интеллект

для обработки естественного языка (NLP) с использованием таких LLM может помочь предприятиям адаптировать взаимодействие с клиентами, помочь в операциях разработки (DevOps) и улучшить процесс управления данными и документами.

AMD стремится создать высокомасштабируемую и открытую экосистему с помощью программного обеспечения ROCm. Благодаря последнему выпуску программного обеспечения ROCm 6.1 для настольных графических процессоров Radeon компания AMD дает сборщикам систем возможность в полной мере воспользоваться преимуществами нашего расширенного стека решений для создания локальных систем, которые повышают производительность искусственного интеллекта в любой ИТ-инфраструктуре, что делает их идеальными для критически важных или критически важных задач. проекты с низкой задержкой и позволяющие организациям хранить свои конфиденциальные данные внутри компании.

Благодаря AMD ROCm 6.1 и новой двухслотовой карте AMD Radeon PRO W7900, которая уже поступила в продажу, искусственный интеллект на настольных компьютерах открывает новые возможности для разработчиков и предприятий по повышению производительности, творческих способностей и инноваций за счет производительности и простоты использования.

Источник: Techpowerup.com