SK Hynix и SanDisk анонсировали новый скоростной стандарт флеш-памяти HBF для ИИ-серверов

Современные чипы NAND в SSD постоянно развиваются, и серверные модели уже способны достигать скорости 28 ГБ/с на устройство. Однако для мира искусственного интеллекта этого всё ещё недостаточно. В ответ на этот вызов компании SK Hynix и SanDisk совместно анонсировали HBF (High Bandwidth Flash — флеш-память с высокой пропускной способностью), предназначенную для серверов логического вывода (inference) будущего.

Изображение: Microsoft

Официальный пресс-релиз содержит очень мало деталей, но в нём упоминается, что HBF призвана стать промежуточным слоем между памятью HBM DRAM и флеш-накопителями SSD. Учитывая, что стек современной памяти HBM3E обеспечивает пропускную способность около 1,2 ТБ/с, можно предположить, что чипы HBF будут нацелены на скорость как минимум 10 ГБ/с каждый, если не больше, что в совокупности даст сотни ГБ/с. В конце концов, создавать совершенно новый стандарт ради меньших скоростей не имело бы смысла.

Энергоэффективность, судя по всему, является важным вопросом для создателей стандарта, что вполне понятно в наше время, когда дата-центры потребляют огромное количество энергии. Флагманский SSD Micron 9650 потребляет 25 Вт при полной нагрузке, и эта цифра становится пугающей, если представить развёртывание в экзабайтном масштабе с десятками тысяч накопителей.

Конкретных данных о том, как новая память HBF будет взаимодействовать с системами, нет, но расплывчатая формулировка «поддерживающий слой» может означать, что она будет аналогом кэша на SSD, но гораздо большего объёма. Также это может быть очень быстрое блочное устройство хранения данных, подобное Intel Optane, для эффективного использования которого потребуется адаптация приложений и/или операционных систем.

В анонсе не указана целевая дата выхода, но отмечается, что «спрос на сложные решения памяти, включая HBF, начнёт расти примерно к 2030 году», что можно считать хорошей оценкой для даты начала коммерческого использования. Стандарт будет разрабатываться под эгидой Open Compute Project. Компании нацеливают HBF на серверы логического вывода, учитывая, что данные, генерируемые ИИ-ботами, нужно где-то хранить, и потребность в таком хранилище, по прогнозам, будет расти экспоненциально.