SK hynix представляет обновлённое решение AiMX

/ ТехнологииНовости / Технологии
Компания SK hynix представила усовершенствованную карту Accelerator-in-Memory Based Accelerator (AiMX) на конференции AI Hardware & Edge AI Summit 2024, которая прошла с 9 по 12 сентября в Сан-Хосе, Калифорния. Ежегодно организуемый Kisaco Research, саммит объединяет представителей экосистемы ИИ

Thumbnail: Искусственный интеллектИску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

Читайте также:Oracle использует ядерные реакторы для питания нового центра обработки данных ИИRambus представляет первый в отрасли контроллер IP HBM4Разработчик Питер Молинье: «ИИ изменит правила игры»Nvidia: «Мы не получали повестку от Минюста США»Министерство юстиции США вызвало Nvidia в рамках антимонопольного расследования в сфере ИИ

и машинного обучения для обмена отраслевыми прорывами и разработками. В этом году мероприятие было посвящено изучению затрат и энергоэффективности во всем технологическом стеке. Отмечая свое четвертое появление на саммите, компания SK hynix рассказала о том, как ее продукты AiM могут повысить производительность ИИ в центрах обработки данных и периферийных устройствах.

Главные особенности стенда: встречайте обновленный AiMX
В эпоху ИИ высокопроизводительные продукты памяти жизненно важны для бесперебойной работы LLM. Однако, поскольку эти LLM обучаются на все более крупных наборах данных и продолжают расширяться, растет потребность в более эффективных решениях. SK hynix удовлетворяет этот спрос своим продуктом PIM AiMX, картой ускорителя ИИ, которая объединяет несколько GDDR6-AiM для обеспечения высокой пропускной способности и выдающейся энергоэффективности. На конференции AI Hardware & Edge AI Summit 2024 компания SK hynix представила свой обновленный прототип AiMX объемом 32 ГБ, который предлагает вдвое большую емкость, чем оригинальная карта, представленная на прошлогоднем мероприятии. Чтобы подчеркнуть передовые возможности обработки нового AiMX в многопакетной среде, SK hynix провела демонстрацию прототипа карты с моделью Llama 3 70B, LLM с открытым исходным кодом. В частности, демонстрация подчеркнула способность AiMX служить высокоэффективным ускорителем внимания в центрах обработки данных.

AiMX решает проблемы стоимости, производительности и энергопотребления, связанные с LLM не только в центрах обработки данных, но и в периферийных устройствах и приложениях искусственного интеллекта на устройствах. Например, при применении к приложениям искусственного интеллекта на мобильных устройствах AiMX повышает скорость LLM в три раза по сравнению с мобильной DRAM

DRAM (англ. dynamic random access memory — динамическая память с произвольным доступом) — тип компьютерной памяти, отличающийся использованием полупроводниковых материалов, энергозависимостью и возможностью доступа к данным, хранящимся в произвольных ячейках памяти (см. запоминающее устройство с произвольным доступом). Модули памяти с памятью такого типа широко используются в компьютерах в качестве оперативных запоминающих устройств (ОЗУ), также используются в качестве устройств постоянного хранения информации в системах, требовательных к задержкам. Википедия

Читайте также:SK hynix утверждает, что ее 3D DRAM в два раза дешевле производитьNEO Semiconductor разрабатывает 3D DRAM с обработкой на базе искусственного интеллектаКомплект V-COLOR DDR5 RGB Filler без DRAM теперь совместим с процессорами AMD RyzenImec демонстрирует структуры с использованием EUV-литографииSamsung Electronics начинает массовое производство самых тонких в отрасли корпусов DRAM LPDDR5X

, сохраняя при этом то же энергопотребление.

Тематическая презентация: Ускорение услуг LLM от центров обработки данных до периферийных устройств
В последний день саммита компания SK hynix выступила с презентацией, в которой подробно описала, как AiMX является оптимальным решением для ускорения LLM-сервисов в центрах обработки данных и периферийных устройствах. Научный сотрудник и руководитель группы Solution Advanced Technology Эуйчеол Лим поделился планами компании по разработке продуктов AiM для ИИ на устройствах на основе мобильной DRAM и раскрыл будущее видение AiM. В заключение Лим подчеркнул важность тесного сотрудничества с компаниями, занимающимися разработкой и управлением центрами обработки данных и периферийными системами, для дальнейшего совершенствования продуктов AiMX.

Взгляд в будущее: видение SK hynix для AiMX в эпоху искусственного интеллекта
Конференция AI Hardware & Edge AI Summit 2024 предоставила SK hynix платформу для демонстрации приложений AiMX в LLM в центрах обработки данных и периферийных устройствах. Как маломощное, высокоскоростное решение для памяти, способное обрабатывать большие объемы данных, AiMX призван сыграть ключевую роль в продвижении LLM и приложений AI.

Источник: SK hynix

Подписаться на обновления Новости / Технологии

0 комментариев

Оставить комментарий


Новые комментарии

Можно делать смартфоны и планшеты на этом процессоре и наконец то использовать полноценную windows. Это отличная замена процессорам arm
  • Анон
Странно почему не 50 долларов.
  • Анон
Понимаю мощь производительность и все дела, но как черт возьми тепло отделять от камня если его прям нагрузить
  • Анон
Не предвзятость это - "Интересно, что Arc B580 проигрывает RTX 4060 в OpenCL" - где разница на невероятных 3,5 %, "но реабилитируется с НЕЗНАЧИТЕЛЬНЫМ 6%-ным преимуществом в Vulkan.". Не...
  • Анон
"Физика вышла из чата"??? Каким образом они добилис свечения точек, которые меньше четверти длины волны???
  • Анон
И теперь нельзя отключить авто обновление!!! Это жесть
  • Анон
Не знаю, я купил Cougar850 80Gold за 10К₽ и нормально
  • Анон
После всех роликов я одно понял у этой игры которую выпустят 20 мая у неё большое будущее
  • Анон
Когда они в продаже появятся? Уже как бы конец февраля, а нигде нет..
  • Анон

Смотреть все