Тысячи графических процессоров NVIDIA Grace Blackwell теперь доступны на CoreWeave
Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ.
Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами.
Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия
Читайте также:DUG Nomad — мобильный центр обработки данных с иммерсионным охлаждением для периферийного ИИADATA усиливает позиции на рынке корпоративного хранения данныхЕС запускает инициативу «ИИ-гигафабрика»Разработчики Total War: Warhammer 3 сообщили о будущих улучшениях искусственного интеллектаСтэнфордский отчёт: расходы на ИИ сократились, а атаки выросли
Блэкуэлл, Блэквелл (англ. Blackwell) — английская фамилия. Википедия
Читайте также:NVIDIA Blackwell занимает лидирующие позиции в последних результатах MLPerf InferenceNVIDIA добавляет ускорение цвета видео 4:2:2 в Adobe Premiere Pro с GeForce BlackwellNVIDIA хочет прозрачности TDP для GeForce RTX 50RTX Pro 6000 Blackwell стоит $8565Варианты Nvidia RTX Pro 6000: Blackwell, Max-Q и Server
«Мы тесно сотрудничаем с NVIDIA, чтобы быстро предоставить клиентам новейшие и самые мощные решения для обучения моделей ИИ и обслуживания выводов», — сказал Майк Интратор, генеральный директор CoreWeave. «С новыми стоечными системами Grace Blackwell на руках многие из наших клиентов первыми увидят преимущества и производительность новаторов ИИ, работающих в масштабе».
Наращивание для клиентов облачных провайдеров, таких как CoreWeave, идет полным ходом. Системы, построенные на базе NVIDIA Grace Blackwell, находятся в полном производстве, превращая облачные центры обработки данных в фабрики искусственного интеллекта, которые производят интеллект в масштабе и преобразуют необработанные данные в информацию в реальном времени с высокой скоростью, точностью и эффективностью.
Ведущие компании в области искусственного интеллекта по всему миру теперь используют возможности GB200 NVL72 для приложений искусственного интеллекта, агентного искусственного интеллекта и разработки передовых моделей.
Персонализированные агенты ИИ
Cohere использует свои чипы Grace Blackwell Superchips для разработки безопасных корпоративных приложений ИИ, работающих на основе передовых методов исследований и разработки моделей. Ее корпоративная платформа ИИ North позволяет командам создавать персонализированных агентов ИИ для безопасной автоматизации корпоративных рабочих процессов, получения информации в режиме реального времени и многого другого.
Благодаря NVIDIA GB200 NVL72 на базе CoreWeave производительность Cohere при обучении моделей со 100 миллиардами параметров уже выросла в 3 раза по сравнению с графическими процессорами NVIDIA Hopper предыдущего поколения — даже без специфичных для Blackwell оптимизаций.
Благодаря дальнейшей оптимизации, использующей преимущества большой унифицированной памяти GB200 NVL72, точности FP4 и домена NVIDIA NVLink из 72 графических процессоров, где все графические процессоры подключены для согласованной работы, Cohere получает значительно более высокую пропускную способность с более коротким временем до первого и последующих токенов для более производительного и экономичного вывода.
«Благодаря доступу к некоторым из первых систем NVIDIA GB200 NVL72 в облаке мы довольны тем, как легко наши рабочие нагрузки переносятся на архитектуру NVIDIA Grace Blackwell», — сказал Отем Молдер, вице-президент по инжинирингу в Cohere. «Это открывает невероятную эффективность производительности во всем нашем стеке — от нашего вертикально интегрированного приложения North, работающего на одном графическом процессоре Blackwell, до масштабирования учебных заданий на тысячи из них. Мы с нетерпением ждем возможности достичь еще большей производительности с дополнительными оптимизациями в ближайшее время».
Модели ИИ для предприятий
IBM использует одно из первых развертываний систем NVIDIA GB200 NVL72, масштабируемое до тысяч графических процессоров Blackwell на CoreWeave, для обучения своих моделей Granite следующего поколения, серии моделей ИИ с открытым исходным кодом, готовых к использованию на предприятии. Модели Granite обеспечивают самую современную производительность, максимизируя безопасность, скорость и экономическую эффективность. Семейство моделей Granite поддерживается надежной партнерской экосистемой, в которую входят ведущие компании-разработчики программного обеспечения, внедряющие большие языковые модели в свои технологии.
Модели Granite служат основой для таких решений, как IBM watsonx Orchestrate, которые позволяют предприятиям создавать и развертывать мощные агенты ИИ, автоматизирующие и ускоряющие рабочие процессы на предприятии.
Развертывание CoreWeave NVIDIA GB200 NVL72 для IBM также использует IBM Storage Scale System, которая обеспечивает исключительно высокопроизводительное хранилище для ИИ. Клиенты CoreWeave могут получить доступ к платформе IBM Storage в рамках выделенных сред CoreWeave и облачной платформы ИИ.
«Мы рады видеть ускорение, которое NVIDIA GB200 NVL72 может привнести в обучение нашего семейства моделей Granite», — сказал Шрирам Рагхаван, вице-президент по ИИ в IBM Research. «Это сотрудничество с CoreWeave расширит возможности IBM по созданию передовых, высокопроизводительных и экономически эффективных моделей для поддержки корпоративных и агентских ИИ-приложений с IBM watsonx».
Масштабные вычислительные ресурсы
Компания Mistral AI в настоящее время получает первую тысячу графических процессоров Blackwell для создания следующего поколения моделей ИИ с открытым исходным кодом.
Mistral AI, парижский лидер в области ИИ с открытым исходным кодом, использует инфраструктуру CoreWeave, теперь оснащенную GB200 NVL72, для ускорения разработки своих языковых моделей. С такими моделями, как Mistral Large, которые обеспечивают сильные возможности рассуждения, Mistral нуждается в быстрых вычислительных ресурсах в масштабе.
Для эффективного обучения и развертывания этих моделей Mistral AI требуется поставщик облачных вычислений, который предлагает большие высокопроизводительные кластеры GPU с сетевым взаимодействием NVIDIA Quantum InfiniBand и надежным управлением инфраструктурой. Опыт CoreWeave в масштабировании GPU NVIDIA с ведущей в отрасли надежностью и отказоустойчивостью с помощью таких инструментов, как CoreWeave Mission Control, соответствовал этим требованиям.
«Прямо из коробки и без дополнительных оптимизаций мы увидели двукратное улучшение производительности для плотного обучения модели», — сказал Тимоти Лакруа, соучредитель и главный технический директор Mistral AI. «Что интересно в NVIDIA GB200 NVL72, так это новые возможности, которые он открывает для разработки и вывода моделей».
Растущее число экземпляров Blackwell
Помимо долгосрочных решений для клиентов, CoreWeave предлагает экземпляры с NVIDIA NVLink стоечного масштаба на 72 графических процессорах NVIDIA Blackwell и 36 центральных процессорах NVIDIA Grace, масштабируемые до 110 000 графических процессоров с сетевым интерфейсом NVIDIA Quantum-2 InfiniBand.
Эти экземпляры, ускоренные стоечной вычислительной платформой NVIDIA GB200 NVL72, обеспечивают масштаб и производительность, необходимые для создания и развертывания следующего поколения моделей и агентов рассуждений ИИ.
Источник: NVIDIA
0 комментариев