Создатель HBM предсказывает: доминирование в ИИ перейдёт от GPU к памяти

По сообщениям СМИ, корейский учёный Ким Чжонхо, которого в индустрии называют «отцом HBM» (High Bandwidth Memory), заявил, что доминирование в области вычислений для ИИ стремительно смещается от графических процессоров (GPU) к памяти.

По мере перехода искусственного интеллекта от генеративных моделей к эпохе агентного ИИ (Agentic AI), память становится ключевым узким местом, сдерживающим развитие. Ким Чжонхо считает, что ядро этого перехода — рост важности «инженерии контекста», когда ИИ требуется одновременно обрабатывать огромные массивы документов, видео и мультимодальных данных.

Для поддержки этой тенденции пропускная способность и объём памяти должны быть увеличены вплоть до 1000 раз, чтобы обеспечить скорость и точность работы системы. При увеличении масштаба входных данных в 100–1000 раз потребности в памяти могут расти экспоненциально, достигая в пике даже миллионократного увеличения.

В этом контексте Ким Чжонхо отметил, что нынешние продукты HBM, достигающие сверхвысокой пропускной способности за счёт наслоения чипов DRAM, могут не удовлетворить потребности эпохи агентного ИИ. Особые надежды он возлагает на технологию HBF (High Bandwidth Flash, высокоскоростная флеш-память).

Как новая схема хранения данных, HBF использует стекирование чипов NAND-памяти вместо DRAM, создавая систему долговременного хранения, похожую на «гигантский книжный шкаф», что даёт скачкообразный рост ёмкости.

Ким Чжонхо далее заявил, что это может привести к сдвигу в балансе сил в ИИ-индустрии в сторону памяти и от GPU. Хотя на текущем этапе вычислительная архитектура по-прежнему строится вокруг GPU и CPU, будущие системы будут создаваться вокруг памяти сверхбольшой ёмкости (такой как HBM и HBF), а процессоры будут больше походить на встроенные в неё компоненты.

Контуры этой концепции уже начинают проявляться в индустрии. В феврале этого года компания SK Hynix в статье, представленной в IEEE (Институт инженеров по электротехнике и электронике), предложила «архитектуру H3», гибридно сочетающую HBM и HBF.

В статье отмечается, что HBF обладает пропускной способностью, сравнимой с HBM, и большей ёмкостью, но имеет более высокую задержку доступа, меньшую долговечность при записи и большее энергопотребление. Поэтому в архитектуре H3 HBF используется как «расширение второго уровня» для HBM, где HBF хранит данные только для чтения, а HBM отвечает за остальные данные.

Ким Чжонхо прогнозирует, что инженерные образцы HBF могут появиться примерно в 2027 году, а такие компании, как Google, NVIDIA или AMD, могут начать внедрять эту технологию уже в 2028 году. Конкуренция вокруг HBF может повторить格局 (расстановку сил) эпохи HBM, где Samsung Electronics и SK Hynix, вероятно, снова сойдутся в прямом противостоянии.