Google представила процессоры Axion и TPU Ironwood для ИИ

Google Cloud анонсировала новые вычислительные инстансы для искусственного интеллекта на базе собственных процессоров Axion и тензорных процессоров Ironwood седьмого поколения. Системы предназначены для обучения и низколатентного инференса крупных ИИ-моделей.

TPU Ironwood обеспечивает производительность 4,614 FP8 TFLOPS и оснащен 192 ГБ памяти HBM3E с пропускной способностью до 7,37 ТБ/с. Кластеры Ironwood могут объединять до 9,216 ускорителей, обеспечивая суммарную производительность 42,5 FP8 ExaFLOPS, что значительно превосходит возможности системы NVIDIA GB300 NVL72 с 0,36 ExaFLOPS.

Кластеры на базе Axion и Ironwood могут объединяться в более крупные системы с сотнями тысяч TPU, формируя так называемый «ИИ-гиперкомпьютер» Google. Платформа объединяет вычисления, хранение и сетевые возможности под единым уровнем управления.

Компания Anthropic планирует использовать до миллиона TPU для развития своего семейства моделей Claude, а Lightricks уже начала развертывание Ironwood для обучения мультимодальной системы LTX-2.

Процессоры Axion: первый серверный чип Google

Процессоры Axion, построенные на архитектуре Arm Neoverse v2, предлагают до 50% больше производительности и до 60% выше энергоэффективность по сравнению с современными x86-чипами. Google предлагает три конфигурации: C4A (до 72 vCPU, 576 ГБ DDR5), N4A (до 64 vCPU, 512 ГБ DDR5) и C4A Metal (до 96 vCPU, 768 ГБ DDR5).

Серверы с процессорами Axion и TPU Ironwood оснащены фирменными контроллерами Titanium, которые разгружают хост-процессор от задач сетевого взаимодействия, безопасности и ввода-вывода.

Запуск Axion и Ironwood знаменует завершение десятилетнего пути Google по разработке собственных чипов, который начался с первого TPU и продолжился процессорами для YouTube, мобильными чипами Tensor и инфраструктурой Titanium.