SanDisk: гонка ИИ смещается в сторону памяти, HBF выйдет в 2027 году

Главный технический директор компании SanDisk (подразделение Western Digital) Альпер Илкбахар заявил, что глобальная гонка в сфере искусственного интеллекта все больше смещается в сторону «памяти». По его словам, развитие больших языковых моделей, KV-кэша (кэша ключей и значений) и моделей смеси экспертов (MoE) выводит память на беспрецедентно важную позицию.

Илкбахар отметил, что большие языковые модели становятся все больше и умнее, требуя значительного увеличения объема памяти. Кроме того, такие системы, как ChatGPT от OpenAI, Google Gemini и Anthropic Claude, все больше полагаются на так называемый KV-кэш.

KV-кэш можно рассматривать как «кратковременную память» ИИ, помогающую модели запоминать предыдущие вводные данные пользователя и содержание диалога. По мере роста контекстного окна потребность в объеме памяти для KV-кэша также резко возрастает.

В то же время модели смеси экспертов (MoE), которые становятся отраслевым стандартом, интегрируют несколько небольших моделей-экспертов в одну большую модель и вызывают только необходимую часть для конкретного запроса. Хотя это экономит вычислительные ресурсы, это также создает более высокие требования к памяти.

Недавно SanDisk объявила о заключении пяти соглашений о поставках сроком до пяти лет, которые, как ожидается, принесут доход не менее 42 миллиардов долларов США.

Илкбахар добавил, что раньше производители микросхем памяти в основном полагались на собственные прогнозы спроса, и было трудно определить, сможет ли расширенное производство в конечном итоге быть поглощено рынком. Теперь же клиенты сами берут на себя предварительные обязательства, подписывая долгосрочные соглашения о закупках, чтобы обеспечить будущие поставки.

Что касается технологии стековой флэш-памяти (HBF), которая недавно привлекла внимание рынка капитала, Илкбахар также представил график разработки и выхода на рынок.

В отличие от HBM, созданной «большой тройкой» производителей памяти (Micron, Samsung, SK Hynix) на основе стековой DRAM, HBF на базе NAND Flash может обеспечить более высокую емкость и более низкую стоимость, приближаясь к HBM по пропускной способности. Поэтому HBF рассматривается как потенциальное новое решение для памяти в сценариях вывода ИИ. В настоящее время SanDisk сотрудничает с SK Hynix над разработкой стандарта технологии HBF.

Илкбахар сообщил: «Мы считаем, что следующим большим прорывом станет HBF. Мы разрабатываем чип памяти HBF и планируем предоставить образцы к концу этого года, а полный продукт с контроллером планируется выпустить в следующем году».