AMD готовит усилитель ИИ для GPU с поддержкой Nvidia

18 июля 2024, 18:32 / Технологии → Новости / Технологии

Lamini AI была одной из первых компаний, получивших чипы искусственного интеллекта AMD

Advanced Micro Devices, Inc. (AMD, дословный перевод с англ. — «передовые микроустройства») — производитель интегральной микросхемной электроники. Второй по объему производства и продаж производитель процессоров архитектуры x86 c долей рынка 16,9 %▲(2014), а также один из крупнейших производителей графических процессоров (после приобретения ATI Technologies в 2006 году), чипсетов для материнских плат и флеш-памяти. Компания с 2009 года не имеет собственного производства и размещает заказы на мощностях других компаний. Википедия

Instinct MI300X, и получила известность как магазин, специализирующийся исключительно на искусственном интеллекте AMD, что является редкостью в мире, где доминирует Nvidia

NVIDIA Corporation (NASDAQ: NVDA) — американская компания, один из крупнейших разработчиков графических ускорителей и процессоров, а также наборов системной логики. На рынке продукция компании известна под такими торговыми марками как GeForce, nForce, Quadro, Tesla, ION и Tegra. Компания была основана в 1993 году. По состоянию на август 2006 года в корпорации насчитывалось более 8 тысяч сотрудников, работающих в 40 офисах по всему миру. Википедия

. Генеральный директор даже раскритиковал Nvidia из-за нехватки графических процессоров, подчеркнув, что у компании уже есть на складе графические процессоры

Thumbnail: Графический процессор Графический процессор (англ. graphics processing unit, GPU) — отдельное устройство персонального компьютера или игровой приставки, выполняющее графический рендеринг; в начале 2000-х годов графические процессоры стали массово применяться и в других устройствах: планшетные компьютеры, встраиваемые системы, цифровые телевизоры. Современные графические процессоры очень эффективно обрабатывают и отображают компьютерную графику, благодаря специализированной конвейерной архитектуре они намного эффективнее в обработке графической информации, чем типичный центральный процессор. Графический процессор в современных видеокартах (видеоадаптерах) применяется в качестве ускорителя трёхмерной графики. Википедия

AMD. Тем не менее, похоже, что нельзя игнорировать лидера рынка, поскольку он контролирует львиную долю рынка оборудования для искусственного интеллекта, поэтому в этом месяце Lamini AI объявила, что оптимизирует свой стек программного обеспечения и для оборудования Nvidia.

«С нетерпением жду сотрудничества и партнерства с Nvidia для дальнейшей оптимизации нашего стека на оборудовании Nvidia», — написала Шэрон Чжоу, основатель и исполнительный директор Lamini AI, в X-посте.

Когда его попросили разъяснить позицию компании в отношении оборудования AMD, Чжоу отметил, что, хотя Lamini AI и сотрудничает с AMD, это партнерство не является эксклюзивным. Кроме того, компания также открыта для сотрудничества с другими поставщиками оборудования. Более того, Чжоу даже сказал, что сотрудничество с другими разработчиками оборудования может быть полезно для AMD, поскольку в конечном итоге оно может привести к тому, что некоторые конечные пользователи графических процессоров Nvidia перейдут на AMD Instinct.

«Мы сотрудничаем с AMD — они невероятные — я полностью верю в Лизу», — ответил глава Lamini AI. «Партнерство глубокое и не эксклюзивное. Это трудно увидеть со стороны, но стратегически это помогает нам охватить больше клиентов, у которых уже есть графические процессоры Nvidia, и оттуда помочь им перейти на графические процессоры AMD без изменения кода. Надеюсь, мы так и сделаем. в будущем мы будем сотрудничать с еще большим количеством поставщиков вычислительных услуг».

Lamini AI — это корпоративная платформа, призванная помочь организациям эффективно разрабатывать, настраивать и развертывать большие языковые модели (LLM). Платформа предлагает комплексное решение для управления всем жизненным циклом LLM: от выбора модели и ее настройки до развертывания и вывода.

Например, благодаря передовым методам настройки памяти Lamini обеспечивает фактическую точность более 95%, что значительно снижает галлюцинации и повышает надежность своих моделей. Кроме того, высокопроизводительные возможности Lamini AI позволяют ему обрабатывать до 52 раз больше запросов в секунду по сравнению с другими решениями, сокращая задержку и улучшая взаимодействие с пользователем.

Учитывая специализацию Lamini AI, компании довольно сложно игнорировать аппаратное обеспечение Nvidia, поскольку большинство ее потенциальных клиентов могут полагать, что графические процессоры Nvidia H100 и H200 лучше всего подходят для их рабочих нагрузок. С этой целью платформа поддерживает развертывание в различных средах, включая локальные, частные центры обработки данных и общедоступные облака, и совместима с графическими процессорами AMD и Nvidia (хотя в прошлом компания шутила по поводу графических процессоров Nvidia). Примечательно, что технический директор компании Грег Диамос в прошлом работал архитектором программного обеспечения Nvidia CUDA, поэтому у компании есть некоторый опыт работы с CUDA.

Источник: Tomshardware.com