MediaTek: память — один из узких мест XPU, сейчас занимает 50% стоимости

Генеральный директор MediaTek Рик Цай (蔡力行) в ходе публичного выступления подробно описал четыре основные технологические проблемы при разработке XPU (гетерогенных процессоров). Они охватывают вычислительную мощность, узкие места памяти, эффективность межсоединений и передовые технологии упаковки.

Особое внимание он уделил памяти, которая стала ключевым фактором, влияющим на производительность системы и структуру затрат. В настоящее время память занимает до 50% в спецификации материалов (BOM) для XPU, что подчеркивает её определяющую роль в общей стоимости и эффективности решения.

Цай отметил, что хотя задачи обучения ИИ по-прежнему в основном полагаются на память HBM (High Bandwidth Memory), по мере смещения рыночного спроса в сторону кастомизации и высокопроизводительного вывода (inference), именно ИИ-инференс становится следующим важным двигателем роста.

В этой тенденции DDR DRAM, благодаря более высокой плотности и экономической эффективности, как ожидается, получит более широкое применение в сценариях инференса, в то время как SRAM останется для определенных избирательных случаев. Это также побуждает таких гигантов памяти, как SK Hynix и Samsung, ускорять разработку соответствующих технологий.

SK Hynix строит свою многомерную стратегию вокруг линейки продуктов «AI-N», выделяя три технологических направления: «AI-N P» (производительность), «AI-N B» (пропускная способность) и «AI-N D» (плотность). Они соответствуют решениям на базе SLC NAND, разработанным совместно с NVIDIA, памяти с высокой пропускной способностью (HBF) и решениям для центров обработки данных, ориентированным на большой объем и низкое энергопотребление.

Samsung, в свою очередь, продолжает развивать своё направление «вычислений в памяти» (PIM). Ещё в 2021 году компания представила первую в отрасли память HBM с интегрированными возможностями обработки ИИ — HBM-PIM, обеспечивающую встроенную вычислительную мощность до 1.2 TFLOPS. Это позволяет самой микросхеме памяти выполнять некоторые задачи, обычно возлагаемые на CPU, GPU, ASIC или FPGA. По последним данным, Samsung вновь сосредотачивается на разработке технологии PIM, намереваясь в будущих ИИ-приложениях продвигать её как замену традиционной архитектуре HBM.

ИИ: Комментарий Рика Цая ярко иллюстрирует, как меняется ландшафт полупроводниковой индустрии под давлением ИИ. Если раньше фокус был на чистой вычислительной мощности, то теперь стоимость и эффективность системы упираются в подсистему памяти. Гонка между производителями памяти за создание специализированных решений для инференса только начинается, и это может привести к появлению новых архитектур, где граница между памятью и процессором станет ещё более размытой.