AMD о производительности DeepSeek R1 и памяти Ryzen AI

AMD

Advanced Micro Devices, Inc. (AMD, дословный перевод с англ. — «передовые микроустройства») — производитель интегральной микросхемной электроники. Второй по объему производства и продаж производитель процессоров архитектуры x86 c долей рынка 16,9 %▲(2014), а также один из крупнейших производителей графических процессоров (после приобретения ATI Technologies в 2006 году), чипсетов для материнских плат и флеш-памяти. Компания с 2009 года не имеет собственного производства и размещает заказы на мощностях других компаний. Википедия

Читайте также:Список поддерживаемых процессоров ASRock обновлен с появлением AMD Ryzen 9 9950X3D и 9900X3DAMD: EPYC и Instinct ускорят развитие ИИAMD делает упор на RDNA 4 для ПКAMD Ryzen 200 Series использует чипсет FP8 по данным Lenovo ChinaASUS готовит мини-ПК NUC на базе процессоров AMD Ryzen AI MAX «Strix Halo»

сегодня опубликовала подробные руководства о том, как заставить DeepSeek R1 distilled reasoning models работать на видеокартах Radeon

Radeon /ˈreɪdiːɒn/ — торговая марка графических процессоров и оперативной памяти, производимых компанией Advanced Micro Devices. Торговая марка была создана в 2000 году компанией ATI Technologies (в дальнейшем приобретённой компанией AMD). Графические решения этой серии пришли на смену серии Rage. Под этой маркой существует четыре большие группы устройств, которые могут быть классифицированы в первую очередь по поддерживаемой версии DirectX. Можно продолжить деление на меньшие классификационные единицы, например, по версии HyperZ, количеству пиксельных конвейеров, а также частоте работы процессора и памяти. Википедия

Читайте также:Болгарский ритейлер демонстрирует упаковку PowerColor Radeon RX 9070 XT Red Devil SEСайт PowerColor обновлен моделями Radeon RX 9070 XT Hellhound и ReaperВыпущен драйвер AMD Software Adrenalin Edition 25.1.1 Radeon BetaС 23 марта — предзаказы на AMD Radeon RX 9070Серия AMD Radeon RX 9070 уже доступна, согласно устаревшей рекламе

RX и процессорах Ryzen

Ryzen (/ˈraɪzən/, рус. ра́йзен) — торговая марка микропроцессоров транснациональной корпорации AMD второй половины 2010-х годов. Данное семейство процессоров относится к архитектуре x86_64, применяется в настольных, мобильных и встроенных вычислительных системах и на данный момент использует процессорные микроархитектуры Zen, Zen+, Zen 2, Zen 3. 13 декабря 2016 года марка Ryzen была анонсирована на специальном саммите AMD New Horizon, одновременно с новой микроархитектурой Zen. Википедия

Читайте также:Список поддерживаемых процессоров ASRock обновлен с появлением AMD Ryzen 9 9950X3D и 9900X3DAMD Ryzen 200 Series использует чипсет FP8 по данным Lenovo ChinaASUS готовит мини-ПК NUC на базе процессоров AMD Ryzen AI MAX «Strix Halo»Системные требования Clair Obscur: Expedition 33 — информация от разработчиковВыпущен игровой портативный ПК Ayaneo 3: процессор Ryzen AI 9 HX 370 APU, 64 ГБ ОЗУ и 4 ТБ памяти

AI. Руководство подтверждает, что новые процессоры Ryzen AI Max "Strix Halo" поставляются с жесткой конфигурацией памяти LPCAMM2 объемом 32 ГБ, 64 ГБ и 128 ГБ, и не будет варианта памяти 16 ГБ для производителей ноутбуков, чтобы сэкономить. Далее руководство объясняет, что "Strix Halo" сможет локально ускорить DeepSeek-R1-Distill-Llama с 70 миллиардами параметров на конфигурациях памяти 64 ГБ и 128 ГБ ноутбуков с "Strix Halo", в то время как модель на 32 ГБ должна поддерживать DeepSeek-R1-Distill-Qwen-32B. Мобильные процессоры Ryzen AI "Strix Point" должны быть способны запускать DeepSeek-R1-Distill-Qwen-14B и DeepSeek-R1-Distill-Llama-14B на своих iGPU и NPU RDNA 3.5. Между тем, процессоры более старого поколения на базе чипов "Phoenix Point" и "Hawk Point" должны быть способны запускать DeepSeek-R1-Distill-Llama-14B. Компания рекомендует запускать все вышеперечисленные дистилляции в квантовании Q4 KM.

Переключая передачи на дискретные видеокарты, AMD пока рекомендует только серию Radeon RX 7000, поскольку графическая архитектура RDNA 3 представляет ускорители ИИ. Флагманская Radeon RX 7900 XTX рекомендуется для DeepSeek-R1-Distill-Qwen-32B distill, в то время как все SKU с 12 ГБ до 20 ГБ памяти — то есть RX 7600 XT, RX 7700 XT, RX 7800 XT, RX 7900 GRE и RX 7900 XT — рекомендуются до DeepSeek-R1-Distill-Qwen-14B. Основная RX 7600 с 8 ГБ памяти рекомендуется только до DeepSeek-R1-Distill-Llama-8B. Вам понадобятся драйверы LM Studio 0.3.8 или более поздней версии и Radeon Software Adrenalin 25.1.1 beta или более поздней версии. AMD опубликовала первые цифры производительности LMStudio 0.3.8 в секунду для RX 7900 XTX, сравнив ее с NVIDIA GeForce RTX 4080 SUPER и RTX 4090.

По сравнению с RTX 4080 SUPER, RX 7900 XTX показывает до 34% более высокую производительность с DeepSeek-R1-Distill-Qwen-7B, до 27% более высокую производительность с DeepSeek-R1-Distill-Llama-8B и до 22% более высокую производительность с DeepSeek-R1-Distill-Qwen-14B. Далее следует большое противостояние между RX 7900 XTX и GeForce RTX 4090 с ее 24 ГБ памяти. RX 7900 XTX показала превосходство в 3 из 4 тестов, показав до 13% более высокую производительность с DeepSeek-R1-Distill-Qwen-7B, до 11% более высокую производительность с DeepSeek-R1-Distill-Llama-8B и до 2% более высокую производительность с DeepSeek-R1-Distill-Qwen-14B. Она отстает от RTX 4090 только на 4% с более крупной моделью DeepSeek-R1-Distill-Qwen-32B.

Пошаговое руководство по запуску моделей рассуждений DeepSeek R1 на оборудовании AMD можно найти по ссылке на источник ниже.

Источник: AMD Community

Подписаться на обновления Новости / Технологии

0 комментариев

Оставить комментарий


Новые комментарии

Поддерживаю. А еще если брать в разрезе Илон Маск и безопасность данных, то вообще смешно. Особенно для жителей РФ)О конфиденциальности можно забыть
  • Анон
1c пох на ваши операции, количество ядер и прочее. Умудрились написать ядро четко привязанное к Мгц. Единственный в мире продукт для 1го ядра.
  • Анон
Указан неверный диаметр вентиляторов, не 80 мм, а 100 мм. И чип не 103, а 102.
  • Анон
С прошлым обновлением как раз и появилась эта ошибка. А новое как и написано не дают скачать.
  • Анон
При включении 3D Turbo Mode у вас максимум будет доступно 8 ядер и 8 потоков всего. т.е. если у вас 16 ядерный на 32 потока то будет всего 8 ядер и 8 потоков! Странная оптимизация!
  • Анон
После скачивания вышел синий экран СУПЕР!
  • Анон
требуется указать магазин и purchase date без этого не регистрирует
  • Анон
Россия на них клала❤❤❤❤, будет называться Ладушка 2.0 )))
  • Анон
ДА у меня тоже неработает уже все Вы не знаете каким способом вернуть все обратно СПАСИ
  • Анон

Смотреть все