KIOXIA обновила ПО AiSAQ для оптимизации векторного поиска в SSD

Компания Kioxia Corporation, мировой лидер в области решений для памяти, объявила о выходе обновления для своего открытого программного обеспечения KIOXIA AiSAQ (All-in-Storage ANNS with Product Quantization). Новая версия позволяет системным архитекторам гибко настраивать баланс между производительностью поиска и количеством векторов в системах с фиксированной ёмкостью SSD-накопителей.

KIOXIA AiSAQ, впервые представленный в январе 2025 года, использует инновационный алгоритм приближённого поиска ближайших соседей (ANNS), оптимизированный для SSD. Эта технология устраняет необходимость хранения индексных данных в DRAM, позволяя выполнять векторный поиск непосредственно на твердотельных накопителях и снижая требования к оперативной памяти хоста.

При фиксированной ёмкости SSD в системе увеличение производительности поиска (запросов в секунду) требует большего объёма накопителя на каждый вектор, что уменьшает общее количество векторов. И наоборот, для максимизации числа векторов необходимо сокращать потребление SSD-пространства на вектор, что снижает производительность. Оптимальный баланс между этими параметрами зависит от конкретной рабочей нагрузки.

Новое обновление KIOXIA AiSAQ предоставляет администраторам гибкие настройки для выбора оптимального баланса под различные сценарии использования, делая технологию применимой не только для RAG-систем, но и для других ресурсоёмких приложений, таких как оффлайн-семантический поиск.

С растущим спросом на масштабируемые ИИ-сервисы SSD становятся практичной альтернативой DRAM для обеспечения высокой пропускной способности и низкой задержки, необходимых RAG-системам. KIOXIA AiSAQ позволяет эффективно удовлетворять эти требования, обеспечивая работу крупномасштабного генеративного ИИ без ограничений, связанных с нехваткой оперативной памяти.

Открытый исходный код KIOXIA AiSAQ доступен для загрузки на GitHub.

Источник: Techpowerup.com