NEO Semiconductor объявляет о выпуске чипа 3D X-AI в качестве преемника HBM

5 августа 2024, 18:24 / Технологии → Новости / Технологии

NEO Semiconductor, ведущий разработчик инновационных технологий для флэш-памяти 3D

3D (3-D) (от англ. 3-dimensional) — англицизм. Может означать: Что-либо, имеющее три измерения, см. размерность пространства; Трёхмерное пространство; Трёхмерная графика; Объёмный звук («3D-звук»); 3D-шутер; 3D-сканер; 3D-принтер.Также термин «3D» применяется к технологиям, использующим эффект стереоскопии: Стереокинематограф Стереодисплей Трёхмерное телевидение Стереоскопический фотоаппарат 3D-очкиКомпании: 3D Realms The 3DO CompanyВ компьютерной индустрии: 3DNow! Википедия

NAND и 3D DRAM

DRAM (англ. dynamic random access memory — динамическая память с произвольным доступом) — тип компьютерной памяти, отличающийся использованием полупроводниковых материалов, энергозависимостью и возможностью доступа к данным, хранящимся в произвольных ячейках памяти (см. запоминающее устройство с произвольным доступом). Модули памяти с памятью такого типа широко используются в компьютерах в качестве оперативных запоминающих устройств (ОЗУ), также используются в качестве устройств постоянного хранения информации в системах, требовательных к задержкам. Википедия

, объявила сегодня о разработке своей технологии чипов 3D X-AI, призванной заменить существующие чипы DRAM в памяти с высокой пропускной способностью (HBM) для устранения узких мест на шине данных. за счет включения обработки искусственного интеллекта в 3D DRAM. 3D X-AI может сократить огромный объем данных, передаваемых между HBM и графическими процессорами во время рабочих нагрузок ИИ. Инновация NEO призвана произвести революцию в производительности, энергопотреблении и стоимости ИИ-чипов для приложений ИИ, таких как генеративный ИИ.

Чипы
Читайте также:Китайские фирмы под санкциями создают подставные компании для покупки чипов ИИ – доклад Обнаружено 5 новых чипов Intel Granite Rapids с числом ядер до 128 и TDP 500 Вт Исследователи описали новую рентгеновскую технологию для чипов Новый китайский чип ИИ соответствует отраслевому стандарту со скоростью 45 TOPS На этой неделе Nvidia представит инженерные образцы Blackwell
AI с технологией NEO 3D X-AI позволяют добиться:

100-кратное ускорение производительности: содержит 8000 нейронных цепей для выполнения обработки искусственного интеллекта в 3D-памяти.
Снижение энергопотребления на 99 %: сводит к минимуму необходимость передачи данных на графический процессор для вычислений, снижая энергопотребление и выделение тепла шиной данных.
Плотность памяти 8X: содержит 300 слоев памяти, что позволяет HBM хранить более крупные модели искусственного интеллекта.

«Современные чипы искусственного интеллекта теряют значительную часть производительности и мощности из-за архитектурной и технологической неэффективности», — сказал Энди Сюй, основатель и генеральный директор NEO Semiconductor. «Текущая архитектура AI Chip хранит данные в HBM и полагается на графический процессор для выполнения всех вычислений. Эта разделенная архитектура хранения и обработки данных делает шину данных неизбежным узким местом в производительности. Передача огромных объемов данных через шину данных приводит к ограничению производительности и снижению производительности. очень высокое энергопотребление. 3D X-AI может выполнять обработку искусственного интеллекта в каждом чипе HBM. Это может значительно сократить объем данных, передаваемых между HBM и графическим процессором, повысить производительность и значительно снизить энергопотребление».

Один кристалл 3D X-AI включает 300 слоев ячеек 3D DRAM емкостью 128 ГБ и один слой нейронной цепи с 8000 нейронами. По оценкам NEO, это может поддерживать пропускную способность обработки ИИ до 10 ТБ/с на кристалл. Использование двенадцати кристаллов 3D X-AI в корпусе HBM позволяет достичь пропускной способности обработки 120 ТБ/с, что приводит к увеличению производительности в 100 раз.

«Применение технологии 3D X-AI может ускорить разработку новых сценариев использования ИИ и способствовать созданию новых», — сказал Джей Крамер, президент Network Storage Advisors. «Использование технологии 3D X-AI для создания следующего поколения оптимизированных чипов искусственного интеллекта откроет новую эру инноваций для приложений искусственного интеллекта».

Источник: NEO Semiconductor