Intel выпускает ускоритель искусственного интеллекта Gaudi 3 и процессор P-Core Xeon 6

24 сентября 2024, 18:51 / Технологии → Новости / Технологии

Поскольку ИИ

Thumbnail: Искусственный интеллект Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

продолжает революционизировать отрасли, предприятия все больше нуждаются в инфраструктуре, которая является как экономически эффективной, так и доступной для быстрой разработки и развертывания. Чтобы удовлетворить этот спрос, Intel

Thumbnail: Intel «И́нтел» («Intel Corp.», МФА: [ˈɪntɛl ˌkɔːpə'reɪʃən]) — производитель электронных устройств и компьютерных компонентов (включая микропроцессоры, наборы системной логики (чипсеты) и др). Штаб-квартира — в Санта-Кларе (США, штат Калифорния). Википедия

сегодня выпустила Xeon

Xeon (/ˈziːɒn/ произносится как «Зион», в русском языке часто употребляется как «Ксеон») — линейка серверных микропроцессоров производства Intel. Название остаётся неизменным для нескольких поколений процессоров. Название ранних моделей состояло из соответствующего названия из ряда настольных процессоров и слова Xeon, современные модели имеют в названии только Xeon. В общих чертах серверная линейка процессоров отличается от процессоров для настольных ПК: увеличенным объёмом кэш-памяти, поддержкой многопроцессорных систем большой производительности, поддержкой большего объёма памяти и портов ввода-вывода, памяти с коррекцией ошибок.Pentium II Xeon, в отличие от «десктопного» Pentium II, имел кэш второго уровня, работающий на полной частоте ядра, а не на половине его частоты. Википедия

6 с ядрами Performance (P-cores) и ускорителями ИИ Gaudi 3, подкрепляя приверженность компании поставке мощных систем ИИ с оптимальной производительностью на ватт и более низкой совокупной стоимостью владения (TCO).

«Спрос на ИИ ведет к масштабной трансформации в центрах обработки данных, и отрасль требует выбора в области оборудования, программного обеспечения и инструментов разработчика», — сказал Джастин Хотард, исполнительный вице-президент Intel и генеральный менеджер группы центров обработки данных и искусственного интеллекта. «С нашим запуском Xeon 6 с P-ядрами и ускорителями ИИ Gaudi 3 Intel обеспечивает открытую экосистему, которая позволяет нашим клиентам реализовывать все свои рабочие нагрузки с большей производительностью, эффективностью и безопасностью».

Представляем Intel Xeon
Xeon (/ˈziːɒn/ произносится как «Зион», в русском языке часто употребляется как «Ксеон») — линейка серверных микропроцессоров производства Intel. Название остаётся неизменным для нескольких поколений процессоров. Название ранних моделей состояло из соответствующего названия из ряда настольных процессоров и слова Xeon, современные модели имеют в названии только Xeon. В общих чертах серверная линейка процессоров отличается от процессоров для настольных ПК: увеличенным объёмом кэш-памяти, поддержкой многопроцессорных систем большой производительности, поддержкой большего объёма памяти и портов ввода-вывода, памяти с коррекцией ошибок.Pentium II Xeon, в отличие от «десктопного» Pentium II, имел кэш второго уровня, работающий на полной частоте ядра, а не на половине его частоты. Википедия
6 с P-ядрами и ИИ-ускорителями Gaudi 3

Последние достижения Intel в области инфраструктуры искусственного интеллекта включают два крупных обновления портфеля решений для центров обработки данных:

Intel Xeon 6 с P-ядрами: разработанный для обработки ресурсоемких вычислительных нагрузок с исключительной эффективностью, Xeon 6 обеспечивает вдвое большую производительность, чем его предшественник. Он отличается увеличенным числом ядер, удвоенной пропускной способностью памяти и возможностями ускорения ИИ, встроенными в каждое ядро. Этот процессор разработан для удовлетворения требований производительности ИИ от периферии до центров обработки данных и облачных сред.
Intel Gaudi 3 AI Accelerator: специально оптимизированный для крупномасштабного генеративного ИИ, Gaudi 3 может похвастаться 64 ядрами тензорного процессора (TPC) и восемью движками матричного умножения (MME) для ускорения вычислений глубоких нейронных сетей. Он включает 128 гигабайт (ГБ) памяти HBM2e для обучения и вывода и 24 порта Ethernet 200 Gigabit (Gb) для масштабируемой сети. Gaudi 3 также предлагает бесшовную совместимость с фреймворком PyTorch и усовершенствованными моделями трансформатора и диффузора Hugging Face. Intel недавно объявила о сотрудничестве с IBM по развертыванию ускорителей ИИ Intel Gaudi 3 в качестве сервиса в IBM Cloud. Благодаря этому сотрудничеству Intel и IBM стремятся снизить совокупную стоимость владения для использования и масштабирования ИИ, одновременно повышая производительность.

Улучшение систем искусственного интеллекта с выгодой для совокупной стоимости владения
Масштабное развертывание ИИ включает такие соображения, как гибкие варианты развертывания, конкурентоспособные соотношения цены и производительности и доступные технологии ИИ. Надежная инфраструктура Intel x86 и обширная открытая экосистема позиционируют ее как поддержку предприятий в создании высокоценных систем ИИ с оптимальной совокупной стоимостью владения и производительностью на ватт. Примечательно, что 73% серверов с ускорением на GPU используют Intel Xeon в качестве хост-процессора3.

Intel сотрудничает с ведущими OEM-производителями, включая Dell Technologies и Supermicro, для разработки совместно разработанных систем, адаптированных к конкретным потребностям клиентов для эффективного развертывания ИИ. В настоящее время Dell Technologies совместно разрабатывает решения на основе RAG, используя Gaudi 3 и Xeon 6.

Преодоление разрыва между прототипами и производством с помощью совместных инженерных усилий

Эти решения, созданные на базе платформы Open Platform Enterprise AI (OPEA), интегрируют микросервисы на базе OPEA в масштабируемую систему RAG, оптимизированную для систем Xeon и Gaudi AI, и позволяют клиентам легко интегрировать приложения из Kubernetes, Red Hat OpenShift AI и Red Hat Enterprise Linux AI.

Расширение доступа к корпоративным приложениям ИИ
Портфолио Intel Tiber предлагает бизнес-решения для решения таких задач, как доступ, стоимость, сложность, безопасность, эффективность и масштабируемость в средах ИИ, облаках и периферийных средах. Intel Tiber Developer Cloud теперь предоставляет предварительные версии систем Intel Xeon 6 для оценки и тестирования технологий. Кроме того, избранные клиенты получат ранний доступ к Intel Gaudi 3 для проверки развертываний моделей ИИ, а кластеры Gaudi 3 начнут развертываться в следующем квартале для крупномасштабных производственных развертываний.

Новые сервисные предложения включают SeekrFlow, сквозную платформу ИИ от Seekr для разработки надежных приложений ИИ. Последние обновления включают новейшую версию программного обеспечения Intel Gaudi и ноутбуки Jupyter, загруженные с PyTorch 2.4 и Intel oneAPI и инструментами ИИ 2024.2, которые включают новые возможности ускорения ИИ и поддержку процессоров Xeon 6.

Источник: Techpowerup.com