Red Hat и AMD расширяют сотрудничество для повышения эффективности генеративного ИИ
Компании Red Hat и AMD объявили о расширении стратегического партнерства, направленного на развитие возможностей искусственного интеллекта и оптимизацию виртуализированной инфраструктуры. Совместные решения позволят клиентам эффективнее развертывать модели ИИ и модернизировать традиционные виртуальные машины.
В рамках сотрудничества AMD Instinct GPU теперь полностью поддерживаются платформой Red Hat OpenShift AI, что обеспечивает высокую производительность для задач ИИ в гибридных облаках. Тестирование на Microsoft Azure ND MI300X v5 подтвердило возможность масштабирования как малых (SLM), так и крупных языковых моделей (LLM) на нескольких GPU в рамках одной виртуальной машины, снижая затраты на развертывание.
Ключевые направления совместной работы:
- Оптимизация производительности GPU AMD, включая поддержку библиотек ядра и улучшение работы с моделями FP8
- Улучшенная поддержка multi-GPU для распределенных вычислений
- Развитие экосистемы vLLM через сотрудничество с IBM и другими партнерами
Решения на базе процессоров AMD EPYC обеспечивают сквозную производительность для ИИ-нагрузок, повышая ROI серверов с GPU. Red Hat OpenShift Virtualization, оптимизированный для AMD EPYC, позволяет консолидировать традиционные и контейнеризированные workloads, снижая TCO инфраструктуры.
Это сотрудничество позволяет предприятиям перераспределять ресурсы дата-центров для ИИ-инноваций, сохраняя поддержку традиционных workloads.
ИИ: Это партнерство демонстрирует, как традиционные ИТ-вендоры адаптируются к эпохе ИИ, предлагая клиентам плавный переход от legacy-инфраструктуры к современным ИИ-решениям. Особенно интересна оптимизация для малых языковых моделей (SLM), которые могут стать более доступной альтернативой LLM для многих предприятий.
0 комментариев