Кластер мощностью 100 кВт на базе Nvidia Hopper развертывается с 144 графическими процессорами H200
NVIDIA Corporation (NASDAQ: NVDA) — американская компания, один из крупнейших разработчиков графических ускорителей и процессоров, а также наборов системной логики. На рынке продукция компании известна под такими торговыми марками как GeForce, nForce, Quadro, Tesla, ION и Tegra. Компания была основана в 1993 году. По состоянию на август 2006 года в корпорации насчитывалось более 8 тысяч сотрудников, работающих в 40 офисах по всему миру. Википедия
Читайте также:Акции Quantum computing упали более чем на 40% после прогноза генерального директора NvidiaМини-суперкомпьютер Nvidia AI вызвал презрение у Раджи Кодури, Tiny CorpГрафический процессор ноутбука Nvidia RTX 5090 проходит несколько тестовОсобенности ПК-версии Final Fantasy 7 RebirthВ PUBG появятся компаньоны NVIDIA AI «Ally»
Google: Google — поисковая система. Google — компания Google Inc. Google Foundation — благотворительный фонд. Google.by — домен и сайт, до 2009 года принадлежавший белорусской компании ActiveMedia. Википедия
Читайте также:Новые игровые мониторы HP Omen включают 280 Гц IPS Black и опции Google TVMozilla, по-видимому, готовится к антимонопольному иску Google с новым партнером по поискуGoogle анонсирует Android XRСпециалисты Google по искусственному интеллекту Gemini 2.0 проходят обучение, чтобы давать советы и рекомендации по игровому процессуGoogle: квантовый чип Willow быстро решит задачу за 10 септиллионов лет
По правде говоря, Exacluster не имеет ничего общего с производительностью в масштабе ExaFLOPS. Он называется Exacluster, потому что состоит из 18 8-процессорных серверов на базе NVIDIA H200 (exa означает квинтиллион, или 10^18). Кластер предоставляет 144 графических процессора H200 с 20 ТБ памяти HBM3E (141 ГБ HBM3E на графический процессор), обеспечивая совокупную вычислительную производительность 569 958 TOPS (около 570 PetaTOPS). Кластер будет использоваться для обучения нейронных сетей ExaAI.
Кластер основан на 192 96-ядерных процессорах (для 3456 ядер) и оснащен 36 ТБ памяти DDR5 и 270 ТБ твердотельного хранилища NVMe. Суперкомпьютер потребляет 100 кВт мощности. Только две из этих машин установлены на стойку, чтобы гарантировать, что все серверы получат достаточное охлаждение. Машины используют стандартное воздушное охлаждение, которого, по ожиданиям Брайка, будет достаточно для длительной работы под нагрузкой.
Стоимость кластера составляет около 5 миллионов долларов (по данным Bryk), что означает 277 777 долларов за машину, что сопоставимо с одной 8-канальной платой H200, а не стоимостью всего сервера. Неясно, как именно ExaAI удалось получить такую низкую цену и машины на базе H200, опередив многие другие компании. Тем не менее, Nvidia является одним из ведущих инвесторов компании, наряду с Lightspeed и YCombinator.
Обычно компании, связанные с Nvidia, в некотором роде стремятся получить аппаратное обеспечение компании впереди других. Возможно, учитывая довольно скромные требования, ExaAI удалось защитить свои машины даже без использования своих значительных связей, просто потому, что ее использование ИИ уникально и представляет большой интерес для различных сторон. Конечная цель ExaAI — создать поисковую систему, которая может понимать и обрабатывать сложные запросы и возвращать достойные результаты. Если компания добьется успеха, она может полностью произвести революцию в поиске, каким мы его знаем.
Источник: Tomshardware.com
0 комментариев