Intel сокращает более 2200 сотрудников в США

17 октября 2024, 18:04 / Технологии → Новости / Технологии

Intel

Thumbnail: Intel «И́нтел» («Intel Corp.», МФА: [ˈɪntɛl ˌkɔːpə'reɪʃən]) — производитель электронных устройств и компьютерных компонентов (включая микропроцессоры, наборы системной логики (чипсеты) и др). Штаб-квартира — в Санта-Кларе (США, штат Калифорния). Википедия

идет другим путем со своими чипами-ускорителями Gaudi 3. Она держится подальше от рынка с высоким спросом на обучение больших моделей ИИ

Thumbnail: Искусственный интеллект Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

, который сделал NVIDIA столь успешной. Вместо этого Intel хочет помочь компаниям, которым нужны более дешевые решения ИИ для обучения и запуска небольших конкретных моделей и вариантов с открытым исходным кодом. На недавнем мероприятии Intel говорила о «преимуществе цены и производительности» Gaudi 3 по сравнению с графическим процессором NVIDIA H100 для задач вывода. Intel утверждает, что Gaudi 3 быстрее и экономичнее H100 при запуске моделей Llama 3 и Llama 2 разных размеров.

Intel также утверждает, что Gaudi 3 так же энергоэффективен, как и H100 для вывода большой языковой модели (LLM) с небольшими выходами токенов, и даже лучше с большими выходами. Компания даже предполагает, что Gaudi 3 превосходит более новую версию NVIDIA H200 по пропускной способности вывода LLM для больших выходов токенов. Однако Gaudi 3 не дотягивает до H100 по общей пропускной способности операций с плавающей точкой для 16-битных и 8-битных форматов. Для bfloat16 и 8-битной точности матричных вычислений с плавающей точкой Gaudi 3 достигает 1835 TFLOPS в каждом формате, в то время как H100 достигает 1979 TFLOPS для BF16 и 3958 TFLOPS для FP8.

В интервью CRN Анил Нандури, руководитель отдела ускорения ИИ компании Intel, заявил, что решения о закупке инфраструктуры для обучения ИИ в первую очередь ориентированы на производительность, а не на стоимость.

«И если вы подумаете в этом контексте, то есть существующее преимущество, когда все исследования передовой модели, все возможности разрабатываются на фактической платформе, на которой вы ее создаете, вы ее исследуете, и вы, по сути, подсознательно ее оптимизируете. А затем сделать этот порт [на другую платформу] — это работа.
Мир, который мы начинаем видеть, — это люди, которые подвергают сомнению [возврат инвестиций], стоимость, мощность и все остальное. Это то, где — у меня нет хрустального шара — но мы думаем об этом так: вы хотите одну гигантскую модель, которая знает все? Анил Нандури, глава офиса ускорения ИИ в Intel.

Intel считает, что для многих предприятий ответ будет «нет», и они вместо этого выберут меньшие модели, основанные на задачах с меньшими требованиями к производительности. Нандури сказал, что хотя Gaudi 3 не может «догнать» новейшие графические процессоры NVIDIA, с точки зрения производительности на уровне «лицом к лицу» чипы Gaudi 3 идеально подходят для того, чтобы позволить нужным системам запускать модели на основе задач и с открытым исходным кодом.

По другой теме, Intel объявила о крупных сокращениях рабочих мест в нескольких штатах в рамках своего более широкого плана по сокращению рабочей силы. Компания сократит 1300 рабочих мест в Орегоне, 385 в Аризоне, 319 в Калифорнии и 251 в Техасе. У Intel более 23 000 сотрудников в Орегоне, 12 000 в Аризоне, 13 500 в Калифорнии и 2100 в Техасе. Увольнения должны произойти в течение 14-дневного периода, начиная с 15 ноября.

Источник: CRN