Технология MTLink от Moore Threads масштабируется до 10 000 GPU

8 июля 2024, 15:39 / Технологии → Новости / Технологии

Одним из преимуществ Nvidia

NVIDIA Corporation (NASDAQ: NVDA) — американская компания, один из крупнейших разработчиков графических ускорителей и процессоров, а также наборов системной логики. На рынке продукция компании известна под такими торговыми марками как GeForce, nForce, Quadro, Tesla, ION и Tegra. Компания была основана в 1993 году. По состоянию на август 2006 года в корпорации насчитывалось более 8 тысяч сотрудников, работающих в 40 офисах по всему миру. Википедия

в сфере центров обработки данных является то, что она не только предлагает передовые графические процессоры

Thumbnail: Графический процессор Графический процессор (англ. graphics processing unit, GPU) — отдельное устройство персонального компьютера или игровой приставки, выполняющее графический рендеринг; в начале 2000-х годов графические процессоры стали массово применяться и в других устройствах: планшетные компьютеры, встраиваемые системы, цифровые телевизоры. Современные графические процессоры очень эффективно обрабатывают и отображают компьютерную графику, благодаря специализированной конвейерной архитектуре они намного эффективнее в обработке графической информации, чем типичный центральный процессор. Графический процессор в современных видеокартах (видеоадаптерах) применяется в качестве ускорителя трёхмерной графики. Википедия

для вычислений искусственного интеллекта и высокопроизводительных вычислений, но также может эффективно масштабировать количество своих процессоров в центре обработки данных, используя собственное аппаратное и программное обеспечение. Как вы могли бы победить Nvidia, если ваши графические процессоры медленнее, а ваш стек программного обеспечения не так распространен, как CUDA от Nvidia? Что ж, расширьте свои собственные возможности масштабирования. Именно это и сделал китайский производитель графических процессоров Moores Threads, согласно отчету Science China Morning Post.

Компания Moore Threads модернизировала сервер своего центра обработки данных KUAE для поддержки искусственного интеллекта, что позволяет подключать до 10 000 графических процессоров в одном кластере. Серверы центров обработки данных KUAE объединяют восемь графических процессоров MTT S4000, соединенных между собой с помощью запатентованной технологии MTLink, разработанной специально для обучения и запуска больших языковых моделей (LLM). Эти графические процессоры основаны на архитектуре MUSA и имеют 128 тензорных ядер и 48 ГБ памяти GDDR6 с пропускной способностью 768 ГБ/с. Кластер на 10 000 графических процессоров имеет 1 280 000 тензорных ядер, но фактическая производительность неизвестна, поскольку масштабирование производительности зависит от множества факторов.

Этот шаг подчеркивает усилия Moore Threads по расширению возможностей искусственного интеллекта в центрах обработки данных, несмотря на то, что компания включена в список организаций Министерства торговли США

Thumbnail: Соединённые Штаты Америки Соединённые Шта́ты Аме́рики (США), часто используется Соединённые Штаты или просто Америка (англ. United States of America, USA, U.S., America) — государство в Северной Америке. Площадь — 9,5 млн км² (4-е место в мире). Население — 325 млн человек (2016, оценка; 3-е место в мире). Википедия

. Продукты Moore Threads, конечно, отстают от графических процессоров Nvidia по производительности. Даже графический процессор Nvidia A100 с объемом памяти 80 ГБ, представленный в 2020 году, обеспечивает значительно большую вычислительную производительность, чем у MTT S4000 (624/1248 INT8 TOPS против 200 INT8 TOPS). Тем не менее, есть утверждения, что MTT S4000 может конкурировать с неизвестными графическими процессорами Nvidia.

Компания Moore Threads, основанная в 2020 году бывшим руководителем Nvidia China, не имеет доступа к передовым технологическим процессам из-за экспортных правил США, поскольку она занесена в черный список администрацией Байдена. Тем не менее, компания разрабатывает новые графические процессоры для игр (эти видеокарты не входят в наш список лучших видеокарт) и продвигается вперед в секторе искусственного интеллекта, несмотря на значительные препятствия.

На данный момент Moore Threads наладила стратегическое партнерство с крупными государственными операторами связи, включая China Mobile и China Unicom, а также с China Energy Engineering Corp. и Gulin Huajue Big Data Technology. Целью этого сотрудничества является разработка трех новых проектов вычислительных кластеров, которые будут способствовать дальнейшему развитию возможностей искусственного интеллекта в Китае.

Компания Moore Threads недавно завершила раунд финансирования, собрав до 2,5 млрд юаней (приблизительно 343,7 млн долларов США). Ожидается, что этот приток средств поддержит амбициозные планы расширения и технологические достижения. Однако без доступа к передовым технологиям, предлагаемым TSMC, Intel Foundry и Samsung Foundry, компания сталкивается с многочисленными проблемами на пути разработки графических процессоров следующего поколения.

Источник: Tomshardware.com