Broadcom представила сетевой процессор Tomahawk Ultra для ускорения ИИ в дата-центрах

Компания Broadcom анонсировала новый сетевой процессор Tomahawk Ultra, предназначенный для ускорения обработки данных искусственного интеллекта. Особенно эффективно решение работает в сценариях, требующих соединения сотен взаимодействующих чипов.

Tomahawk Ultra позиционируется как одна из немногих жизнеспособных альтернатив мощным графическим процессорам (GPU) Nvidia. В настоящее время Broadcom помогает Google в производстве собственных чипов для ИИ.

Основная функция нового процессора — управление высокоскоростной передачей данных между десятками или даже сотнями чипов в пределах одного дата-центра, например, в рамках одного серверного стойка. Фактически, Tomahawk Ultra выполняет роль «диспетчера трафика».

«Наш чип напрямую конкурирует с NVLink Switch от Nvidia, но обладает существенными преимуществами: Tomahawk Ultra может соединять в четыре раза больше чипов и использует улучшенный стандарт Ethernet вместо проприетарного протокола передачи данных», — заявил старший вице-президент Broadcom Рам Велага.

Подобные решения критически важны для масштабируемых вычислений — они позволяют создателям дата-центров объединять множество чипов на небольшом расстоянии друг от друга (в пределах нескольких метров). Благодаря этому разработчики ПО получают возможность задействовать огромные вычислительные мощности, необходимые для работы современных ИИ-систем.

Tomahawk Ultra производится по 5-нанометровому техпроцессу на мощностях TSMC и уже начал поставляться клиентам. На разработку чипа у команды инженеров Broadcom ушло около трёх лет.

Изначально процессор создавался для рынка высокопроизводительных вычислений (HPC), но с бумом генеративного ИИ компания адаптировала его под нужды ИИ-компаний, значительно улучшив возможности масштабирования.