Китайский производитель выпустил 14-нм процессор ИИ, который на 90% дешевле GPU

30 марта 2024, 17:58 / Технологии → Новости / Технологии

Китайский производитель Intellifusion представил блоки искусственного интеллекта DeepEyes с заявленной производительностью искусственного интеллекта 48 TOPS за 1000 юаней, или примерно 140 долларов США. Использование более старого узла на 14 нм и (вероятнее всего) ASIC — это еще один способ для Китая обойти санкции, сохранив конкурентоспособность на рынке искусственного интеллекта.

Первый блок искусственного интеллекта «Deep Eyes» в 2024 году использует SoC DeepEdge10Max для производительности 48 TOPS при обучении int8. В блоке H2 Deep Eyes 2024 года будет использоваться DeepEdge10Pro с производительностью до 24 TOPS, и, наконец, в блоке H1 Deep Eyes 2025 года планируется значительное повышение производительности благодаря рейтингу DeepEdge10Ultra до 96 TOPS. Цены на эти предстоящие модели более высокого класса неизвестны. Тем не менее, если Intellifusion сможет поддерживать начальную стоимость в ~1000 юаней в долгосрочной перспективе, она сможет достичь своей цели — «на 90% дешевле аппаратного обеспечения искусственного интеллекта», которое по-прежнему «охватывает 90% сценариев».

Все вышеперечисленное оборудование полностью отечественного производства использует специальный чип нейронной сети Intellifusion NNP400T. Помимо других ожидаемых компонентов SoC, этот специализированный (2+8-ядерный RISC-процессор с тактовой частотой 1,8 ГГц, графический процессор с частотой до 800 МГц в DeepEdge 10) и мощный встроенный NPU делают его довольно привлекательным вариантом на своем рынке.

Для справки: чтобы соответствовать заявленным требованиям Microsoft к «ПК с искусственным интеллектом», современные ПК должны иметь производительность NPU не менее 40 TOPS. Таким образом, ближайшая траектория развития Intellifusion выглядит так, как будто она скоро станет подходящей для многих рабочих нагрузок ИИ

Thumbnail: Искусственный интеллект Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

, особенно если учесть, что скорость большинства существующих NPU составляет всего 16 TOPS. Однако позднее в этом году чипы Snapdragon X Elite получат производительность 40 TOPS наряду с лучшей в отрасли производительностью iGPU.

Как заявил доктор Чэнь Нин, председатель Intellifusion: «В ближайшие три года 80% компаний по всему миру будут использовать большие языковые модели. [...] Стоимость обучения большой модели исчисляется десятками миллионов долларов. Большинство компаний не могут себе позволить такие расходы».

Хотя утверждение о том, что 80% компаний по всему миру будут использовать ИИ, кажется... в лучшем случае сомнительным, здесь справедливо высказывается мнение о том, сколько стоит вход для предприятий, чтобы осмысленно использовать ИИ, особенно при создании своих моделей. Чипы

DeepEdge используют «независимую и контролируемую отечественную технологию» и ядро RISC-V для поддержки обширного обучения моделей и развертывания логических выводов.