SanDisk создаёт HBM Killer для VRAM

13 февраля 2025, 21:48 / Технологии → Новости / Технологии

В свой первый день инвесторов после отделения Western Digital компания SanDisk продемонстрировала то, над чем она работала, чтобы справиться с сектором ИИ

Thumbnail: Искусственный интеллект Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

. Высокоскоростная флэш-память (HBF) — это новая архитектура памяти, которая объединяет флэш-память 3D NAND с возможностями пропускной способности, сопоставимыми с высокоскоростной памятью (HBM). Конструкция HBF объединяет 16 кристаллов 3D NAND BiCS8 с использованием сквозных кремниевых переходов, с логическим слоем, обеспечивающим параллельный доступ к подмассивам памяти. Эта конфигурация достигает в 8–16 раз большей емкости на стек, чем текущие реализации HBM. Система, использующая восемь стеков HBF, может предоставить 4 ТБ VRAM для хранения больших моделей ИИ, таких как GPT-4, непосредственно на оборудовании графического процессора. Архитектура отличается от традиционной конструкции NAND, реализуя независимо доступные подмассивы памяти, выходя за рамки традиционных многоплоскостных подходов. Хотя HBF превосходит спецификации емкости HBM, она поддерживает более высокую задержку, чем DRAM, ограничивая свое применение определенными рабочими нагрузками.

SanDisk не раскрыла свое решение для ограничений, присущих NAND по выносливости записи, хотя использование pSLC NAND позволяет сбалансировать долговечность и стоимость. Пропускная способность HBF также неизвестна, поскольку компания пока не опубликовала подробности. Руководитель SanDisk Memory Technology Альпер Илкбахар подтвердил, что технология нацелена на задачи вывода ИИ с интенсивным чтением, а не на приложения, чувствительные к задержкам. Компания разрабатывает HBF как открытый стандарт, включающий механические и электрические интерфейсы, аналогичные HBM, для упрощения интеграции. Некоторые проблемы остаются, включая ограничения адресации на уровне блоков NAND и ограничения выносливости записи. Хотя эти факторы делают HBF непригодным для игровых приложений, характеристики высокой емкости и пропускной способности технологии соответствуют требованиям к хранению и выводу модели ИИ. SanDisk объявила о планах по разработке трех поколений HBF, что указывает на долгосрочную приверженность этой технологии.