Сетевая карта AMD Pensando Pollara 400 AI уже доступна и отправляется клиентам

Создание высокопроизводительной инфраструктуры ИИ
Поставщики облачных услуг, гиперскейлеры и предприятия стремятся максимизировать производительность своих кластеров ИИ. Однако многие называют сеть основным узким местом для проблем с использованием графических процессоров. Скорость передачи данных имеет значение только в том случае, если сеть должным образом оптимизирована для ее использования.

Поскольку рабочие нагрузки ИИ продолжают расти с поразительной скоростью, организации не могут позволить себе недоиспользовать сетевые и вычислительные ресурсы. Три основных атрибута сетей с самыми высокими показателями использования — это интеллектуальная балансировка нагрузки, управление перегрузками, быстрое переключение при сбоях и восстановление после потерь. Высокопроизводительные сети также должны постоянно оптимизироваться для увеличения времени безотказной работы, времени выполнения задач, надежности, доступности и удобства обслуживания — в масштабе.

Расширяемая инфраструктура, готовая к будущему
Возможность программирования оборудования на основе дорожных карт клиентов
Pensando Pollara 400 AI NIC, работающий на нашей архитектуре P4, предлагает полностью программируемый аппаратный конвейер. Это обеспечивает максимальную гибкость для клиентов — от добавления новых возможностей, таких как те, которые выпущены UEC, и/или разработки пользовательских транспортных протоколов, предназначенных для ускорения дорожных карт компании. Теперь, когда появляются новые стандарты, инициативы компании или рабочие нагрузки AI, клиентам не нужно ждать следующего поколения оборудования AI NIC для ускорения своих рабочих нагрузок.

Разработка функций UEC для ускорения рабочих нагрузок следующего поколения

• Транспортный протокол по вашему выбору: используйте RoCEv2, UEC RDMA или любой другой протокол Ethernet по вашему выбору.
• Интеллектуальное распыление пакетов: функция, повышающая использование пропускной способности сети с помощью усовершенствованного адаптивного распыления пакетов, что имеет решающее значение для управления высокой пропускной способностью и низкой задержкой, необходимыми для крупных моделей ИИ.
• Обработка неупорядоченных пакетов и упорядоченная доставка сообщений: эта функция предназначена для сокращения времени буферизации за счет интеллектуального управления неупорядоченными поступлениями пакетов, что является распространенной проблемой, связанной с методами многопутевой передачи и распыления пакетов. Она сводит к минимуму ошибки и повышает эффективность обучения и вывода ИИ, и все это без использования масштабируемой коммутационной структуры.
• Выборочная повторная передача: повышение производительности сети за счет повторной отправки только потерянных или поврежденных пакетов с помощью упорядоченной доставки сообщений и выборочной повторной передачи подтверждения (SACK).
• Контроль перегрузки с учетом пути: оптимизируйте производительность сети с помощью интеллектуальной балансировки нагрузки, которая автоматически избегает перегруженных путей и помогает поддерживать производительность, близкую к скорости передачи данных по проводной сети, во время временных перегрузок.
• Быстрое обнаружение неисправностей: ускорение времени выполнения задач ИИ за счет решения проблем в миллисекундах с помощью мониторинга ACK на основе отправителя, мониторинга пакетов на основе получателя и проверки на основе зондов, что обеспечивает практически мгновенное переключение при отказе и минимизирует время простоя графического процессора.

Преимущество открытой экосистемы
Предлагая совместимость, не зависящую от поставщика, организации могут создавать инфраструктуру ИИ, которая соответствует требованиям текущих рабочих нагрузок и обеспечивает легкую масштабируемость и программируемость для будущих требований. Благодаря такому подходу к открытой экосистеме сетевая карта AMD AI помогает сократить капитальные затраты, не жертвуя производительностью и не завися от развертывания дорогостоящих коммутационных фабрик на основе ячеек с большим буфером.

Проверено в некоторых из крупнейших масштабируемых центров обработки данных
И последнее, но не менее важное — сетевая карта Pensando Pollara 400 AI NIC предназначена для питания некоторых из крупнейших масштабируемых инфраструктур, первые поставки для клиентов были отправлены и протестированы некоторыми из крупнейших поставщиков облачных услуг (CSP) в мире. CSP выбрали сетевую карту Pensando Pollara 400 AI NIC из-за ее отличительной программируемости, высокой пропускной способности, производительности с низкой задержкой, богатого набора функций и по-настоящему расширяемой инфраструктуры, совместимой с открытой экосистемой.

Источник: AMD Blog