ROCm 6.3 добавляет несколько новых функций, включая компилятор Fortran и SGLang

AMD

Advanced Micro Devices, Inc. (AMD, дословный перевод с англ. — «передовые микроустройства») — производитель интегральной микросхемной электроники. Второй по объему производства и продаж производитель процессоров архитектуры x86 c долей рынка 16,9 %▲(2014), а также один из крупнейших производителей графических процессоров (после приобретения ATI Technologies в 2006 году), чипсетов для материнских плат и флеш-памяти. Компания с 2009 года не имеет собственного производства и размещает заказы на мощностях других компаний. Википедия

Читайте также:AMD получила патент на стеклянную подложкуAMD повышает официальную цену Ryzen 7 9800X3D до 542 евро в Европе из-за колебаний валютного курсаСообщается, что AMD готовит бюджетные шестиядерные APU Krackan PointНовые слухи о PS6. Sony будет использовать инновационную архитектуру AMDAMD разрабатывает процессор EPYC для Microsoft Azure

анонсировала версию ROCm 6.3, которая добавляет множество новых обновлений в экосистему ROCm. Последняя итерация стека драйверов с открытым исходным кодом включает несколько дополнений, включая SGLang, FlashAttention-2 и компилятор Fortran.
SGLang — это новая среда выполнения в ROCm 6.3, которая, как утверждается, улучшает задержку, пропускную способность и использование ресурсов за счет оптимизации «передовых» генеративных моделей ИИ

Thumbnail: Искусственный интеллектИску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

Читайте также:Дженсен говорит, что нам «потребуется несколько лет» для решения проблемы галлюцинаций ИИCerebras: ИИ пишет код в 75 раз быстрее, чем самое быстрое облако GPUNvidia создает новый канал в социальных сетях для демонстрации приложений ИИ для ПК на базе RTXRiot Games набирает сотрудников после массовых увольнений. В том числе для исследований ИИ в играхAMD увольняет 4 процента своих сотрудников по всему миру, сосредоточившись на ИИ

на самодельных графических процессорах AMD Instinct. SGLang, как утверждается, достигает до 6 раз более высокой производительности при выводе больших языковых моделей и поставляется с предварительно настроенными контейнерами Docker, которые используют Python для ускорения ИИ, многомодальных рабочих процессов и масштабируемых облачных бэкэндов.

FlashAttention-2 — это следующая итерация FlashAttention, которая снижает использование памяти и требования к вычислениям с помощью моделей Transformer AI. FlashAttention-2 предположительно обеспечивает до 3-кратного ускорения по сравнению с первой версией для обратных и прямых проходов, что сокращает время обучения модели AI.

AMD внедрила компилятор Fortran в ROCm 6.3, что позволяет пользователям запускать устаревшие приложения на основе Fortran на современных графических процессорах AMD Instinct. Компилятор обеспечивает прямую разгрузку GPU через OpenMP для научных рабочих нагрузок, обратную совместимость, позволяющую разработчикам продолжать писать код Fortran для существующих устаревших приложений, и упрощенную интеграцию с ядрами HIP и библиотеками ROCm.

Поддержка Multi-NodeFFT обеспечивает высокопроизводительные распределенные вычисления FFT в ROCm 6.3. Эта функция предположительно упрощает масштабирование нескольких узлов, снижая сложность разработки и обеспечивая бесшовную масштабируемость для больших наборов данных.

ROCm 6.3 представляет усовершенствования библиотек компьютерного зрения rocDecode, rocJPEG и rocAL, обеспечивающие поддержку кодека AV1, декодирования JPEG с ускорением на GPU и улучшенного дополнения звука.

ROCm — это открытый исходный код стека программного обеспечения и драйверов, разработанных для работы на графических процессорах AMD Instinct. Платформа направлена на предоставление функций, которые позволяют или улучшают корпоративные приложения с ускорением на GPU, такие как высокопроизводительные вычисления (HPC), ИИ/машинное обучение, связь и многое другое.

Источник: Tomshardware.com

Подписаться на обновления Новости / Технологии

0 комментариев

Оставить комментарий


Новые комментарии

Указан неверный диаметр вентиляторов, не 80 мм, а 100 мм. И чип не 103, а 102.
  • Анон
С прошлым обновлением как раз и появилась эта ошибка. А новое как и написано не дают скачать.
  • Анон
При включении 3D Turbo Mode у вас максимум будет доступно 8 ядер и 8 потоков всего. т.е. если у вас 16 ядерный на 32 потока то будет всего 8 ядер и 8 потоков! Странная оптимизация!
  • Анон
После скачивания вышел синий экран СУПЕР!
  • Анон
требуется указать магазин и purchase date без этого не регистрирует
  • Анон
Россия на них клала❤❤❤❤, будет называться Ладушка 2.0 )))
  • Анон
ДА у меня тоже неработает уже все Вы не знаете каким способом вернуть все обратно СПАСИ
  • Анон
Хаетв Рустам Базарвич Хаетв
  • Анон
Очень довольна приложением. Пользуюсь сама и рекомендую другим.
16 способ - Ноутбук HP ProBook 4740s автоматически установлена камера HP HD Webcam [Fixed] при этом онлайн из браузера подключается камера к веб страницам, камера работает. С приложениями камера...
  • Анон

Смотреть все