AMD RDNA 3 с 48 ГБ памяти могут превзойти Nvidia в ИИ
Advanced Micro Devices, Inc. (AMD, дословный перевод с англ. — «передовые микроустройства») — производитель интегральной микросхемной электроники. Второй по объему производства и продаж производитель процессоров архитектуры x86 c долей рынка 16,9 %▲(2014), а также один из крупнейших производителей графических процессоров (после приобретения ATI Technologies в 2006 году), чипсетов для материнских плат и флеш-памяти. Компания с 2009 года не имеет собственного производства и размещает заказы на мощностях других компаний. Википедия
Читайте также:Процессоры AMD Ryzen 9000X3D Series теперь доступны в игровых ПК iBUYPOWERПроцессоры AMD Ryzen 9000X3D Series теперь доступны в игровых ПК iBUYPOWERПроцессоры AMD Ryzen 9000X3D Series теперь доступны в игровых ПК iBUYPOWERРеференсная видеокарта AMD Radeon RX 9070 XT «Сделано AMD» сфотографирована в КитаеBiwin выпускает комплекты памяти DDR5-6400 и DDR5-6000 объемом 192 ГБ для платформы AMD AM5
NVIDIA Corporation (NASDAQ: NVDA) — американская компания, один из крупнейших разработчиков графических ускорителей и процессоров, а также наборов системной логики. На рынке продукция компании известна под такими торговыми марками как GeForce, nForce, Quadro, Tesla, ION и Tegra. Компания была основана в 1993 году. По состоянию на август 2006 года в корпорации насчитывалось более 8 тысяч сотрудников, работающих в 40 офисах по всему миру. Википедия
Читайте также:DLSS 4 будет в Stellar Blade и Lost Soul AsideИгровые персонажи NVIDIA ACE появятся в inZOI и NARAKAОсвобождение под залог по делу о контрабанде чипов NvidiaNVIDIA и Microsoft открывают новую эру игр с революционной технологией нейронного шейдингаNVIDIA GeForce NOW переносит больше игр Blizzard в облако
Дэвид Макафи, вице-президент AMD и генеральный менеджер по процессорам Ryzen и графике Radeon
Radeon /ˈreɪdiːɒn/ — торговая марка графических процессоров и оперативной памяти, производимых компанией Advanced Micro Devices. Торговая марка была создана в 2000 году компанией ATI Technologies (в дальнейшем приобретённой компанией AMD). Графические решения этой серии пришли на смену серии Rage. Под этой маркой существует четыре большие группы устройств, которые могут быть классифицированы в первую очередь по поддерживаемой версии DirectX. Можно продолжить деление на меньшие классификационные единицы, например, по версии HyperZ, количеству пиксельных конвейеров, а также частоте работы процессора и памяти. Википедия
Читайте также:Референсная видеокарта AMD Radeon RX 9070 XT «Сделано AMD» сфотографирована в КитаеAMD Radeon RX 9070 XT, как сообщается, превосходит RTX 5080 за счет понижения напряженияДэвид Макафи из AMD отмечает 25-летие графической технологии RadeonXFX выпускает 3D-печатные модели «Магнитное крыло» для новой серии QUICKSILVER Radeon RX 9070Класс графического процессора AMD Radeon RX 9050 просочился в мексиканский интернет-магазин
McAfee поделился графиком трех графических процессоров, протестированных в нескольких итерациях DeepSeek R1 с использованием LM Studio 0.3.12 и Llama.cpp runtime 1.18. Итерации DeepSeek R1 состояли из Distill Qwen 32B 8-bit, Distill Llama 70B 4-bit, Distill Qwen 32B 8-bit и Distill Llama 70B 4-bit. Первые два были настроены на вывод диалоговых подсказок (с 20 токенами), а последний — на вывод подсказок резюмирования (с 3017 токенами).
Нажмите «Подробнее», чтобы увидеть результаты теста:
В DeepSeek R1 Distill Qwen 32B 8-bit RTX 4090 якобы выдал 2,7 токена в секунду, Pro W7800 48GB выдал 19,1, а Pro W7900 48GB выдал 19,8 токенов в секунду. В Distill Llama 70B 4-bit RTX 4090 выдал 2,3 токена в секунду, Pro W7800 48GB 12,8, а Pro W7900 48GB 12,7 токенов в секунду.
В Distill Qwen 32B 8-bit RTX 4090 выдал 2,5 токена в секунду, Pro W7800 48GB 15,7 и Pro W7900 48GB 16,2 токена в секунду. В R1 Distill Llama 70B 4-bit RTX 4090 выдал два токена в секунду, Pro W7800 48GB 10,1 и Pro W7900 48GB 10,4 токена в секунду.
Тесты AMD показывают, что графические процессоры Radeon Pro W7800 или Pro W7900 48 ГБ работают в 7,3 раза быстрее в Distill Qwen 32B 8-бит, в 5,5 раз быстрее в Distill Llama 70B 4-бит, в 6,5 раз быстрее в Distill Qwen 32B 8-бит и в 5,2 раза быстрее в Distill Llama 70B 4-бит по сравнению с RTX 4090.
Дэвид Макафи утверждает, что 48-гигабайтные комплектации WPro W7800 и W7900 имеют достаточно VRAM для запуска самых больших моделей DeepSeek R1. VRAM является одним из самых важных аспектов обработки больших языковых моделей; параметры для LLM хранятся непосредственно в VRAM и прямо пропорциональны размерам модели. Таким образом, чем больше LLM, тем больше VRAM вам нужно. Но с дополнительной емкостью VRAM возникают очень высокие цены.
W7900 48 ГБ стоит колоссальные $3500 — на $1500 больше рекомендованной розничной цены RTX 5090 в $2000 и на $2000 больше рекомендованной розничной цены RTX 4090 в $1500 (хотя по этой цене вряд ли продавались модели 4090). Но с другой стороны, 48 ГБ RDNA 3 GPU стоит меньше половины цены ближайшего 48 ГБ GPU Nvidia текущего поколения, который вы можете купить сегодня, RTX A6000 Ada.
Маркетинг AMD выглядит великолепно, но мы уже видели это раньше. Ранее AMD поделилась результатами тестов своей RX 7900 XTX, превосходящей RTX 4090 (в основном) в тестах DeepSeek R1. Однако Nvidia ответила демонстрацией тестов RTX 4090 (и RTX 5090), значительно превосходящих флагманский графический процессор RDNA 3 с теми же конфигурациями DeepSeek R1.
AMD также забыла поделиться какими-либо бенчмарками, сравнивающими новейший флагман Nvidia, RTX 5090, с ее видеокартами RDNA 3 на 48 ГБ, ориентированными на рабочие станции. Любопытно, проведет ли Nvidia еще один раунд бенчмарков, чтобы побороть AMD, особенно с учетом того, что на ее 48 ГБ картах AMD больше VRAM, чем даже на RTX 5090 с ее 32 ГБ GDDR7.
Источник: Tomshardware.com
0 комментариев