AMD: EPYC и Instinct ускорят развитие ИИ

Если вы ищете инновационное использование технологии ИИ

Thumbnail: Искусственный интеллектИску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

Читайте также:KIOXIA выпустила ПО AiSAQ для снижения потребности в DRAMSolidigm продлевает соглашение с Broadcom о выпуске SSD-контроллеров высокой емкости для ИИТретья китайская компания начинает производство памяти HBM для процессоров ИИ: отчетСША готовят «Звездные врата»: 500 миллиардов долларов на развитие инфраструктуры ИИИИ увеличит потребность в хранении данных

, обратите внимание на облако. Gartner сообщает, что «73% респондентов опроса Gartner CIO and Tech Executive Survey 2024 увеличили финансирование ИИ». А IDC утверждает, что ИИ: «получит кумулятивное глобальное экономическое влияние в размере 19,9 триллиона долларов к 2030 году». Но конечные пользователи не запускают большую часть этих рабочих нагрузок ИИ на своем собственном оборудовании. Вместо этого они в значительной степени полагаются на поставщиков облачных услуг и крупные технологические компании, которые предоставляют инфраструктуру для своих усилий в области ИИ. Такой подход имеет смысл, поскольку большинство организаций уже в значительной степени зависят от облака. По словам О'Рейли, более 90% компаний используют публичные облачные сервисы. И они перемещают в облако не только несколько рабочих нагрузок. В том же отчете показан рост интереса к облачным решениям на 175%, что указывает на то, что компании вкладывают значительные средства в облако.
В результате этого спроса на инфраструктуру для поддержки инициатив ИИ поставщики облачных услуг считают необходимым быстро масштабировать свои центры обработки данных. IDC прогнозирует: «растущий спрос на рабочие нагрузки ИИ приведет к значительному увеличению емкости центров обработки данных, энергопотребления и выбросов углерода, при этом прогнозируется, что емкость центров обработки данных ИИ получит среднегодовой темп роста (CAGR) в 40,5% до 2027 года». Хотя этот всплеск создает огромные возможности для поставщиков услуг, он также создает некоторые проблемы. Предоставление вычислительной мощности, необходимой для поддержки инициатив ИИ в масштабе, надежно и экономически эффективно, является сложной задачей. Многие поставщики обнаружили, что развертывание процессоров AMD

Advanced Micro Devices, Inc. (AMD, дословный перевод с англ. — «передовые микроустройства») — производитель интегральной микросхемной электроники. Второй по объему производства и продаж производитель процессоров архитектуры x86 c долей рынка 16,9 %▲(2014), а также один из крупнейших производителей графических процессоров (после приобретения ATI Technologies в 2006 году), чипсетов для материнских плат и флеш-памяти. Компания с 2009 года не имеет собственного производства и размещает заказы на мощностях других компаний. Википедия

Читайте также:AMD делает упор на RDNA 4 для ПКAMD Ryzen 200 Series использует чипсет FP8 по данным Lenovo ChinaASUS готовит мини-ПК NUC на базе процессоров AMD Ryzen AI MAX «Strix Halo»Серия AMD RX 9000 в первую очередь будет ориентирована на настольные графические процессорыAMD утверждает, что Strix Halo может превзойти графический процессор RTX 4070 для ноутбуков на 68%

EPYC и графических процессоров Instinct может помочь им преодолеть эти проблемы. Вот краткий обзор трех поставщиков услуг, которые используют чипы AMD для ускорения развития ИИ.

Гибкая и экономичная производительность в Microsoft Azure
Microsoft предлагает обширную линейку виртуальных машин (ВМ) Azure на базе AMD в рамках своей линейки облачных вычислительных сервисов. Они адаптировали спецификации этих сервисов для удовлетворения самых разных вариантов использования, от общего назначения до интенсивной памяти и оптимизированного хранилища, высокопроизводительных вычислений, конфиденциальных вычислений и ИИ.

Клиенты Azure ценят экономичность этих виртуальных машин. Например, Хенрик Клемола, директор Cloud COE в Epicor: «Мы использовали виртуальные машины Azure с процессором AMD EPYC в течение последних двух лет для запуска ряда критически важных для бизнеса приложений в рамках портфеля решений Epicor. Мы были очень довольны стабильной производительностью и привлекательным соотношением цены и производительности, которые смогли обеспечить эти виртуальные машины. Мы с нетерпением ждем возможности продолжать получать выгоду от инноваций, которые Microsoft

Microsoft Corporation (произносится «ма́йкрософт»; как правило, именуется просто Microsoft; распространено сокращение MS) — одна из крупнейших транснациональных компаний по производству проприетарного программного обеспечения для различного рода вычислительной техники — персональных компьютеров, игровых приставок, КПК, мобильных телефонов и прочего, разработчик наиболее широко распространённой на данный момент в мире программной платформы — семейства операционных систем Windows. Подразделения компании также производят семейство игровых консолей Xbox, а также аксессуары для персональных компьютеров (клавиатуры, мыши и т. д.). C 2012 года производит собственный планшетный компьютер — Surface. Википедия

Читайте также:Спенсер: оптимизация игр для Xbox Series S поможет в портировании на Switch 2Сообщается, что Microsoft OneDrive для бизнеса хранит данные OCR небезопасноПланы по выпуску Starfield на других платформах подтвердил глава Xbox Фил СпенсерMicrosoft экспериментирует с меню общего доступа «Drag Tray» в Windows 11Возможная дата выхода ремейка The Elder Scrolls IV: Oblivion — весна или лето 2025 года, о чём сообщают СМИ

Azure предоставит нам, включая возможность доступа к экономичным сервисам Azure, основанным на новейших процессорах AMD EPYC».

Эти новые инновации включают ускорители, которые поддерживают ИИ и другие интенсивные рабочие нагрузки, такие как финансовый анализ, проектирование и инженерные приложения. Microsoft объясняет: «традиционные виртуальные машины, работающие только на CPU, часто не справляются с этими приложениями, что раздражает пользователей и снижает производительность, но до сих пор развертывание локальных виртуальных сред с ускорением на GPU было слишком дорогим». Сделав последние достижения AMD доступными в облаке, Microsoft предоставляет клиентам необходимую им производительность по доступной цене.

Масштабируемый рост в Oracle Cloud Infrastructure
Oracle — еще один крупный поставщик облачных услуг, использующий AMD для расширения границ возможностей ИИ. В сентябре Oracle Cloud Infrastructure (OCI) выбрала ускорители AMD Instinct для своего новейшего экземпляра OCI Compute Supercluster. Oracle объясняет, что эти экземпляры позволяют клиентам: «быстрее выполнять самые требовательные рабочие нагрузки ИИ, включая генеративный ИИ, компьютерное зрение и предиктивную аналитику». Они позволяют развертывать массивные масштабируемые кластеры для обучения крупномасштабных моделей ИИ.

Эта масштабируемость оказалась очень привлекательной для Uber, который начал переход на OCI Compute с инфраструктурой AMD и OCI AI в 2023 году. «Поскольку мы продолжаем расти и выходить на новые рынки, нам нужна гибкость для использования широкого спектра облачных сервисов, чтобы гарантировать предоставление наилучшего возможного клиентского опыта», — говорит Камран Заргахи, старший директор по технической стратегии и облачной инженерии в Uber. «Сотрудничество с Oracle

Oracle (Oracle Corporation) — американская корпорация, второй по величине доходов производитель программного обеспечения (после Microsoft), крупнейший производитель программного обеспечения для организаций, крупный поставщик серверного оборудования. Компания специализируется на выпуске систем управления базами данных, связующего программного обеспечения и бизнес-приложений (ERP- и CRM-систем, специализированных отраслевых приложений). Наиболее известный продукт компании — Oracle Database, который компания выпускает с момента своего основания. С 2008 года корпорация освоила выпуск интегрированных аппаратно-программных комплексов, а с 2009 года в результате поглощения Sun Microsystems стала производителем серверного оборудования, до этого компания выпускала исключительно программное обеспечение. Википедия

Читайте также:Инвестиции 500 млрд в проект ИИ StargateУскорители AMD Instinct MI300X доступны в облачной инфраструктуре OracleNvidia и Oracle объединяются для создания кластера ZettascaleOracle использует ядерные реакторы для питания нового центра обработки данных ИИСтали известны доходы Google от Android

позволило нам быстрее внедрять инновации, управляя при этом расходами на инфраструктуру. Благодаря OCI наши продукты могут работать на лучшей в своем классе инфраструктуре, которая предназначена для поддержки многооблачных сред и может масштабироваться для поддержки прибыльного роста».

Глубокое обучение следующего поколения в Meta
Meta также вкладывает значительные средства в облачные центры обработки данных для поддержки услуг ИИ, которые она предлагает пользователям. Более трех миллиардов человек ежедневно взаимодействуют с такими сервисами Meta, как Facebook (facebook признана экстремистской организацией и запрещена в России), Instagram (instagram признана экстремистской организацией и запрещена в России) и WhatsApp. И Meta работает над быстрой интеграцией генеративного ИИ во все эти приложения. Для достижения этой цели Meta вложила значительные средства в технологии AMD. Фактически, она развернула более 1,5 миллиона процессоров AMD EPYC на своих серверах по всему миру. Графические процессоры AMD Instinct также стали частью ее успеха. Кевин Сальвадори, вице-президент по инфраструктуре и инжинирингу в Meta, объясняет: «Весь трафик Meta Live обслуживался исключительно с помощью MI300X из-за его большого объема памяти и преимущества в совокупной стоимости владения».

Кроме того, чипы AMD играют центральную роль в концепции открытого оборудования Meta. Meta отмечает в своем блоге: «Масштабирование ИИ на такой скорости требует открытых аппаратных решений. Разработка новых архитектур, сетевых структур и системных проектов наиболее эффективна и результативна, когда мы можем строить их на принципах открытости. Инвестируя в открытое оборудование, мы раскрываем весь потенциал ИИ и стимулируем постоянные инновации в этой области».

Grand Teton, платформа Meta следующего поколения с открытым ИИ поддерживает платформу AMD Instinct MI300X. Это позволяет Grand Teton запускать модели рекомендаций глубокого обучения Meta, понимание контента и другие ресурсоемкие рабочие нагрузки.

Расширьте границы возможного
Если ваша команда заинтересована в расширении границ возможностей современных инноваций в области ИИ, попробуйте облачный экземпляр на базе AMD Instinct от одного из поставщиков публичных облаков. Или встройте графические процессоры AMD Instinct в свою собственную инфраструктуру. Они обеспечивают производительность, низкую совокупную стоимость владения и простоту внедрения для повышения производительности ИИ.

Источник: AMD Community Blog

Подписаться на обновления Новости / Технологии

0 комментариев

Оставить комментарий


Новые комментарии

Поддерживаю. А еще если брать в разрезе Илон Маск и безопасность данных, то вообще смешно. Особенно для жителей РФ)О конфиденциальности можно забыть
  • Анон
1c пох на ваши операции, количество ядер и прочее. Умудрились написать ядро четко привязанное к Мгц. Единственный в мире продукт для 1го ядра.
  • Анон
Указан неверный диаметр вентиляторов, не 80 мм, а 100 мм. И чип не 103, а 102.
  • Анон
С прошлым обновлением как раз и появилась эта ошибка. А новое как и написано не дают скачать.
  • Анон
При включении 3D Turbo Mode у вас максимум будет доступно 8 ядер и 8 потоков всего. т.е. если у вас 16 ядерный на 32 потока то будет всего 8 ядер и 8 потоков! Странная оптимизация!
  • Анон
После скачивания вышел синий экран СУПЕР!
  • Анон
требуется указать магазин и purchase date без этого не регистрирует
  • Анон
Россия на них клала❤❤❤❤, будет называться Ладушка 2.0 )))
  • Анон
ДА у меня тоже неработает уже все Вы не знаете каким способом вернуть все обратно СПАСИ
  • Анон

Смотреть все