NVIDIA делает Грейс Блэквелл частью каждого рабочего стола и доступна каждому разработчику ИИ

С Project DIGITS пользователи могут разрабатывать и выполнять выводы на моделях, используя собственную настольную систему, а затем беспрепятственно развертывать модели в ускоренном облаке или инфраструктуре центра обработки данных. «ИИ станет мейнстримом в каждом приложении для каждой отрасли. С Project DIGITS суперчип Grace Blackwell Superchip станет доступен миллионам разработчиков», — сказал Дженсен Хуанг, основатель и генеральный директор NVIDIA. «Помещение суперкомпьютера ИИ на стол каждого специалиста по данным, исследователя ИИ и студента дает им возможность участвовать и формировать эпоху ИИ».

Суперчип GB10 обеспечивает петафлопс энергоэффективной производительности ИИ
GB10 Superchip — это система на кристалле (SoC) на базе архитектуры NVIDIA Grace Blackwell, обеспечивающая производительность искусственного интеллекта до 1 петафлопс с точностью FP4.

GB10 оснащен графическим процессором NVIDIA Blackwell с ядрами CUDA последнего поколения и ядрами Tensor пятого поколения, подключенными через межсоединении NVLink -C2C от чипа к чипу с высокопроизводительным процессором NVIDIA Grace, который включает 20 энергоэффективных ядер, созданных с архитектурой Arm. MediaTek, лидер рынка в области разработок SoC на базе Arm, сотрудничал с разработчиками GB10, способствуя лучшей в своем классе энергоэффективности, производительности и подключению.

GB10 Superchip позволяет Project DIGITS обеспечивать высокую производительность, используя только стандартную электрическую розетку. Каждый Project DIGITS имеет 128 ГБ унифицированной, когерентной памяти и до 4 ТБ хранилища NVMe. С помощью суперкомпьютера разработчики могут запускать большие языковые модели с 200 миллиардами параметров для ускорения инноваций в области ИИ. Кроме того, с помощью сети NVIDIA ConnectX два суперкомпьютера Project DIGITS AI могут быть связаны для запуска моделей с 405 миллиардами параметров.

Грейс Блэквелл Суперкомпьютер ИИ в пределах досягаемости
Благодаря архитектуре Grace Blackwell предприятия и исследователи могут создавать прототипы, настраивать и тестировать модели на локальных системах Project DIGITS под управлением ОС NVIDIA DGX на базе Linux, а затем беспрепятственно развертывать их в облаке NVIDIA DGX, ускоренных облачных экземплярах или инфраструктуре центра обработки данных.

Это позволяет разработчикам создавать прототипы ИИ на основе Project DIGITS, а затем масштабировать их в облаке или инфраструктуре центра обработки данных, используя ту же архитектуру Grace Blackwell и программную платформу NVIDIA AI Enterprise.

Пользователи Project DIGITS могут получить доступ к обширной библиотеке программного обеспечения NVIDIA AI для экспериментов и прототипирования, включая комплекты для разработки ПО, инструменты оркестровки, фреймворки и модели, доступные в каталоге NVIDIA NGC и на портале разработчиков NVIDIA. Разработчики могут настраивать модели с помощью фреймворка NVIDIA NeMo, ускорять науку о данных с помощью библиотек NVIDIA RAPIDS и запускать распространенные фреймворки, такие как PyTorch, Python и Jupyter notebooks.

Для создания агентских приложений ИИ пользователи также могут использовать NVIDIA Blueprints и микросервисы NVIDIA NIM, которые доступны для исследования, разработки и тестирования через программу NVIDIA Developer Program. Когда приложения ИИ готовы перейти от экспериментальных к производственным средам, лицензия NVIDIA AI Enterprise обеспечивает безопасность корпоративного уровня, поддержку и выпуски продуктов программного обеспечения NVIDIA AI.

Availability
Проект DIGITS будет доступен в мае от NVIDIA и ведущих партнеров, начиная с $3000. Подпишитесь на уведомления сегодня.

Источник: Techpowerup.com