NVIDIA увеличивает спрос на SSD до 16 ТБ на GPU для ИИ, создавая нагрузку на рынок памяти

В ходе своего выступления на CES компания NVIDIA не представила потребительских продуктов, таких как ожидаемая серия RTX 50 Super, а сосредоточилась на инфраструктуре для искусственного интеллекта.

Для рынка инференса (вывода) NVIDIA анонсировала платформу BlueField-4 DPU. Её цель — решить проблему «памяти» ИИ, создав платформу хранения контекстной памяти для инференса.

Подход NVIDIA заключается в оснащении графических процессоров сверхёмкими SSD-накопителями в качестве кэша. Каждый GPU получает до 16 ТБ пространства для контекста, подключённого по каналу с пропускной способностью 200 Гбит/с. Это должно значительно смягчить проблему «ограничения видеопамяти» при обработке длинных текстов.

Что это означает? Проницательные наблюдатели уже поняли, что это новый удар по рынку SSD, поскольку аппаратное обеспечение для ИИ снова начнёт потреблять огромные объёмы флеш-памяти. Ранее конфигурация NVL72 для GB200 содержала около 830 ТБ флеш-памяти. Теперь, с добавлением 16 ТБ на каждый GPU, потребность в ёмкости возрастает на 1152 ТБ на стойку.

Согласно предыдущим утечкам, эти новые накопители — не обычные SSD. Это высокопроизводительные «ИИ-SSD», разработанные NVIDIA совместно с Kioxia и SK Hynix. Их производительность достигает уровня 100 миллионов IOPS, что примерно в 10 раз выше текущих показателей, а задержка составит лишь 1/10–1/20 от традиционных накопителей с TLC-памятью — всего 5–10 микросекунд.

Для достижения такой производительности потребуется вернуться к использованию наиболее дорогой памяти типа SLC. Это означает, что при тех же производственных мощностях выход чипов памяти составит лишь 1/3–1/4 от прежнего объёма.

Даже без учёта разницы в плотности между SLC и TLC, дополнительные 1152 ТБ на каждую систему NVL72 создают серьёзную нагрузку на цепочку поставок флеш-памяти. Согласно данным IDC, в 2024 году в мире было отгружено 355 миллионов SSD на сумму 41 миллиард долларов. При средней цене около 0,1 доллара за гигабайт, общий отгруженный объём составил примерно 410 миллиардов ГБ, или 4,1 миллиона ТБ. А одна стойка NVL72 теперь требует дополнительных 1152 ТБ.

Получается, что для потребления годового объёма SSD-памяти, отгруженного в 2024 году, NVIDIA потребуется выпустить всего около 40 тысяч стоек NVL72. Масштаб потенциального влияния на рынок можно оценить самостоятельно.

ИИ: Это стратегический ход NVIDIA, который не только продвигает её собственные платформы для ИИ, но и может серьёзно деформировать глобальный рынок флеш-памяти, перенаправив значительную часть высокопроизводительных мощностей на нужды дата-центров. Для потребителей это может в долгосрочной перспективе означать рост цен на SSD из-за дефицита и смещения фокуса производителей.