ZLUDA возрождается благодаря финансированию: переход на ИИ и GPU

4 октября 2024, 22:00 / Технологии → Новости / Технологии

ZLUDA, слой трансляции CUDA с открытым исходным кодом, прожил две довольно яркие жизни с графическими процессорами Intel

Thumbnail: Intel «И́нтел» («Intel Corp.», МФА: [ˈɪntɛl ˌkɔːpə'reɪʃən]) — производитель электронных устройств и компьютерных компонентов (включая микропроцессоры, наборы системной логики (чипсеты) и др). Штаб-квартира — в Санта-Кларе (США, штат Калифорния). Википедия

, а затем AMD

Advanced Micro Devices, Inc. (AMD, дословный перевод с англ. — «передовые микроустройства») — производитель интегральной микросхемной электроники. Второй по объему производства и продаж производитель процессоров архитектуры x86 c долей рынка 16,9 %▲(2014), а также один из крупнейших производителей графических процессоров (после приобретения ATI Technologies в 2006 году), чипсетов для материнских плат и флеш-памяти. Компания с 2009 года не имеет собственного производства и размещает заказы на мощностях других компаний. Википедия

. Он был почти убит в августе, когда AMD попросила удалить код, разработанный на ее средства. Однако, поскольку его разработчик Анджей Яник получил финансирование от таинственного спонсора, ZLUDA теперь имеет третью жизнь. На этот раз фокус ZLUDA будет сосредоточен на запуске программного обеспечения AI/ML, разработанного для графических процессоров CUDA, на процессорах от других поставщиков с использованием слоя трансляции, сообщает Phoronix.

ZLUDA изначально была разработана для запуска креативных профессиональных приложений на базе CUDA на графических процессорах Intel, а затем AMD, в то время как предстоящая итерация ZLUDA смещает фокус на рабочие нагрузки ИИ

Thumbnail: Искусственный интеллект Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

и машинного обучения. Кроме того, теперь акцент делается не только на Intel или AMD. Вместо этого она предлагает поддержку нескольких поставщиков графических процессоров, что делает ZLUDA применимой к различным архитектурам графических процессоров. Тем не менее, в настоящее время

Настоя́щее, настоя́щее вре́мя (сокращённо н.в.) — часть линии времени, состоящая из событий, которые происходят в данный момент, то есть определенная область пространства-времени. При определённых допущениях под настоящим временем понимаются текущие дни, месяцы и даже годы. В этом смысле настоящее противопоставлено прошлому (множество событий, которые уже произошли) и будущему (множество событий, которые ещё не произошли), и расположено между ними. Википедия

большинство усилий по разработке сосредоточено на графических процессорах AMD, в частности RDNA1 и более новых архитектурах. Поддержка строится вокруг вычислительного стека AMD ROCm 6.1+, закладывая основу для более широкой мультиархитектурной совместимости в будущем.

Анджей Яник в настоящее время работает над тем, чтобы фреймворки AI/ML, такие как PyTorch, TensorFlow и Llama.cpp, работали без сбоев с использованием CUDA на не-Nvidia GPU, используя свой слой трансляции, согласно Phoronix, который говорил с разработчиком. Яник прогнозирует, что потребуется около года, чтобы разработать новый код ZLUDA до стабильного состояния, в котором он сможет эффективно обрабатывать рабочие нагрузки AI/ML на нескольких GPU. Вклад сообщества открытого исходного кода будет приветствоваться по мере развития проекта. Таким образом, ZLUDA останется открытым исходным кодом, или, по крайней мере, так выглядит сегодня.

Хотя у ZLUDA теперь есть финансовый спонсор, спонсор пока решил остаться анонимным. Мы можем только предполагать, кто является спонсором, поскольку им нужно запускать рабочие нагрузки ИИ в масштабе, и они выбрали поддержку поставщиков с несколькими GPU. Кроме того, мы предполагаем, что он достаточно большой, чтобы не бояться конфликта из-за запуска программного обеспечения CUDA через слой трансляции, который Nvidia в настоящее время не одобряет. Тем не менее, разработчик говорит, что этот «скрытый» спонсор, как ожидается, будет раскрыт позже, что предоставит больше информации о направлении и будущей поддержке ZLUDA.

Источник: Tomshardware.com