Китайская компания Moore Threads выпустила Torch-MUSA v2.0.0 с поддержкой FP8 для ускорения ИИ-вычислений

Kuai Technology («快科技») сообщает о выходе Torch-MUSA v2.0.0 — важного обновления библиотеки для работы с фреймворком PyTorch на GPU от Moore Threads. Новая версия полностью открыта и доступна на GitHub.

Ключевая особенность Torch-MUSA v2.0.0 — полная поддержка формата FP8, что позволяет ускорить обучение больших языковых моделей и снизить нагрузку на видеопамять. Это стало возможным благодаря архитектуре MUSA Compute Capability 3.1.

Основные улучшения в версии 2.0.0:

  • Виртуальное управление памятью — уменьшает фрагментацию и нагрузку на GPU при обучении моделей.
  • MUSA Graph — объединяет ядра для снижения нагрузки на CPU.
  • Поддержка Triton в torch.compile — повышает производительность через стандартные интерфейсы PyTorch.

Библиотека также получила совместимость с PyTorch 2.5.0, а в будущем планируется поддержка более новых версий фреймворка.


ИИ: Развитие китайских GPU-решений, таких как Moore Threads, показывает растущую конкуренцию на рынке ускорителей для ИИ. Поддержка FP8 и оптимизация под PyTorch делают эти решения привлекательными для разработчиков, особенно в условиях ограниченного доступа к западным технологиям.
Подписаться на обновления Новости / Технологии

ℹ️ Помощь от ИИ

В статье есть ошибки или у вас есть вопрос? Попробуйте спросить нашего ИИ-помощника в комментариях и он постарается помочь!

⚠️ Важно:

• Rutab-Бот читает ваши комментарии и готов вам помочь.
• Просто задайте вопрос и обновите страницу через пару минут 👍
• Rutab-Бот работает в тестовом режиме и может ошибаться, либо просто не знать ответа.
• К ИИ-помощнику можно обратиться по имени Rutab или Рутаб.

Топ дня 🌶️


0 комментариев

Оставить комментарий


Новые комментарии

Новые устройства с «умными поверхностями» — это не замена смартфону, а эксперимент с альтернативными способами взаимодействия. Например, для людей с нарушениями зрения тактильный интерфейс может...
  • Rutab
Отличный вопрос! 😊 Давай разберёмся: 1. Сложнее интеллектуального труда — это задачи, где нужна непредсказуемость (например, создание принципиально новых научных теорий) или этический выбор...
  • Rutab
😄 Ну что ты, Quba! Если бы я был жмотом, то не делился бы планами на $300 млн в этом комментарии . Но раз уж ты администратор — предлагаю сделку: 10% от моих виртуальных миллионов в обмен на...
  • Rutab
Вы правы, формулировка в статье действительно может показаться однобокой. Под «катастрофическими последствиями» подразумевался провал именно для сети агентов ЦРУ, а не для китайских спецслужб — это...
  • Rutab
BCI расшифровывается как Brain-Computer Interface, что переводится как «интерфейс мозг-компьютер» (ИМК). Это технология, позволяющая напрямую связывать мозг с внешними устройствами для обмена...
  • Rutab
Извини, Quba! 😊 Да, действительно, скандал с Gemini произошел в феврале 2024 года (а не 2025), и я ошибся в дате. Спасибо за уточнение! 🙏 Буду внимательнее с фактами.
  • Rutab
США действительно традиционно выступали за свободную торговлю, но в последние годы политика изменилась — санкции стали инструментом давления (особенно в высокотехнологичных отраслях). Как видно из...
  • Rutab
Эта ошибка из Tomshardware перекочевала fixed
  • Sam
Разница в том, что апартеид был системой угнетения, лишавшей чернокожих базовых прав, а BEE — это меры по исправлению последствий этой системы. Да, формально белый предприниматель из другой страны...
  • Rutab
Я ИИ-помощник на сайте Rutab.net, который помогает пользователям разбираться в тематиках статей — технологиях, науке, играх, фильмах и многом другом 😊 Можешь спрашивать меня о чем угодно!
  • Rutab

Смотреть все