ROCm от AMD или CUDA от NVIDIA для ИИ?
Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ.
Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами.
Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия
Читайте также:Правительство США намерено запретить посредническую компанию Huawei Sophgo из-за поставок чипов ИИ — партнерство обошло санкции США в отношении чиповРазработчики Catly настаивают, что в трейлере не использовался генеративный ИИSSD-накопитель PS1012 U.2 для дата-центров ИИMarvell анонсирует специализированную вычислительную архитектуру HBM для ускорителей ИИMarvell анонсирует новую архитектуру HBM для ИИ-ускорителей
Advanced Micro Devices, Inc. (AMD, дословный перевод с англ. — «передовые микроустройства») — производитель интегральной микросхемной электроники. Второй по объему производства и продаж производитель процессоров архитектуры x86 c долей рынка 16,9 %▲(2014), а также один из крупнейших производителей графических процессоров (после приобретения ATI Technologies в 2006 году), чипсетов для материнских плат и флеш-памяти. Компания с 2009 года не имеет собственного производства и размещает заказы на мощностях других компаний. Википедия
Читайте также:Radeon RX 8000 — для мобильных, RX 9000 — для ПКПредполагается, что графические процессоры AMD RDNA 4 получат ребрендинг RX 9000AMD Radeon «RX 8800 XT» на самом деле RX 9070 XT?Утечка эталонного дизайна AMD Radeon RX 8800 XT?Советы по тестированию AMD Ryzen AI 7 350 на графическом процессоре Radeon 860M
Графический процессор (англ. graphics processing unit, GPU) — отдельное устройство персонального компьютера или игровой приставки, выполняющее графический рендеринг; в начале 2000-х годов графические процессоры стали массово применяться и в других устройствах: планшетные компьютеры, встраиваемые системы, цифровые телевизоры.
Современные графические процессоры очень эффективно обрабатывают и отображают компьютерную графику, благодаря специализированной конвейерной архитектуре они намного эффективнее в обработке графической информации, чем типичный центральный процессор.
Графический процессор в современных видеокартах (видеоадаптерах) применяется в качестве ускорителя трёхмерной графики. Википедия
У NVIDIA есть огромное преимущество в том, что программное обеспечение полностью функционально. "Так же быстро, как AMD пытается заполнить пробел в CUDA, инженеры NVIDIA работают сверхурочно, чтобы углубить этот пробел новыми функциями, библиотеками и обновлениями производительности", - отмечается в отчете SemiAnalysis. Разработчик Tinybox и Tinybox Pro Tinygrad также неоднократно подтверждал это в своем профиле X, у которого в прошлом также были серьезные проблемы с программным обеспечением AMD.
Если взглянуть на чипы AMD Instinct MI300X и NVIDIA H100/H200 2023 года выпуска, то MI300X становится явным победителем с точки зрения производительности. Он достигает 1307 ТФЛОП/с при вычислениях по протоколу FP16, превосходя процессор NVIDIA H100, который выдает 989 ТФЛОП/с. MI300X оснащен 192 ГБ оперативной памяти формата HBM3 и пропускной способностью 5,3 ТБ/с. Эти характеристики подходят даже для модели NVIDIA H200, которая имеет 141 ГБ оперативной памяти HBM3e и пропускную способность 4,8 ТБ/с. Чип AMD также отличается более низкой общей стоимостью владения, благодаря чему одна только сеть обходится на 40% дешевле. На бумаге чип AMD выглядит превосходящим решения NVIDIA Hopper, но на самом деле это не так уж и много.
Внутренние команды AMD имеют ограниченный доступ к графическим процессорам для разработки и усовершенствования программного стека ROCm. Компания Tensorwave, которая является одним из крупнейших поставщиков графических процессоров AMD в облаке, взяла свои собственные графические процессоры и предоставила инженерам AMD аппаратное обеспечение по запросу бесплатно, просто чтобы можно было исправить программное обеспечение. И это при том, что Tensorwave заплатила за графические процессоры AMD, бесплатно передав свои собственные в аренду AMD. Наконец, SemiAnalysis отметила, что программный стек AMD был улучшен на основе их предложений. Тем не менее, компании предстоит пройти долгий путь, прежде чем она достигнет уровня стабильности и производительности NVIDIA CUDA. Подробный анализ представлен в отчете SemiAnalysis report здесь.
Источник: SemiAnalysis
0 комментариев