Исследователи разработали технологию для снижения энергопотребления ИИ

29 июля 2024, 16:53 / Технологии → Новости / Технологии

Вычисления искусственного интеллекта (ИИ

Thumbnail: Искусственный интеллект Иску́сственный интелле́кт (ИИ; англ. artificial intelligence, AI) — свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека (не следует путать с искусственным сознанием); наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Искусственный интеллект связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами. Существующие на сегодня интеллектуальные системы имеют довольно узкие области применения. Википедия

) требуют огромного количества электроэнергии, но целевые исследования могут стать ключом к значительному сокращению этого количества. Однако группа исследователей в США разработала технологию, которая может снизить потребление энергии, необходимое для обработки ИИ, как минимум в тысячу раз.

Группа инженеров-исследователей из Университета Миннесоты в городах-побратимах продемонстрировала технологию повышения эффективности искусственного интеллекта и опубликовала рецензируемую статью с изложением своей работы и результатов. Статья была опубликована в npj Unconventional Computing, рецензируемом журнале Nature. По сути, они создали ярлык в обычной практике вычислений ИИ, который значительно снижает потребность в энергии для выполнения задачи.

В современных вычислениях с использованием искусственного интеллекта данные передаются между обрабатывающими их компонентами (логика) и местом хранения данных (память/хранилище). Согласно этому исследованию, эта постоянная передача информации туда и обратно приводит к потреблению в 200 раз больше энергии, используемой при вычислениях.

Поэтому исследователи обратились к вычислительной памяти с произвольным доступом (CRAM), чтобы решить эту проблему. CRAM, разработанная исследовательской группой, помещает высокоплотный реконфигурируемый субстрат спинтронных вычислений в память внутри самих ячеек памяти.

Это отличается от существующих решений обработки в памяти, таких как технология PIM от Samsung

Samsung Group (произносится «Сáмсунг Груп», кор. 삼성그룹, Samseong Gurub, Samsŏng Gurup) — южнокорейская группа компаний, один из крупнейших чеболей, основанный в 1938 году. На мировом рынке известен как производитель высокотехнологичных компонентов, телекоммуникационного оборудования, бытовой техники, аудио- и видеоустройств. Главный офис компании расположен в Сеуле. Википедия

, поскольку решение Samsung размещает вычислительный блок обработки (PCU) внутри ядра памяти. Данные по-прежнему должны перемещаться из ячеек памяти в PCU и обратно, но уже не так далеко.

При использовании CRAM данные никогда не покидают память, а полностью обрабатываются в массиве памяти компьютера. По мнению исследовательской группы, это позволяет системе, на которой работает вычислительное приложение искусственного интеллекта, снизить энергопотребление «порядка в 1000 раз по сравнению с современным решением».

Другие примеры предполагают возможность еще большей экономии энергии и ускорения обработки. В одном тесте, выполнявшем задачу классификатора рукописных цифр MNIST, CRAM оказалась в 2500 раз более энергоэффективной и в 1700 раз более быстрой, чем система обработки данных, работающая в режиме близкой к памяти, использующая 16-нм технологический узел. Эта задача используется для обучения систем искусственного интеллекта распознаванию рукописного текста.

Важность такого рода работы невозможно переоценить. Недавние отчеты показывают, что рабочие нагрузки искусственного интеллекта уже потребляют почти столько же электроэнергии, сколько вся страна Кипр в 2021 году. Общее потребление энергии составило 4,3 ГВт в 2023 году и, как ожидается, в ближайшие годы будет расти темпами от 26% до 36%.. Генеральный директор Arm недавно предположил, что к 2030 году искусственный интеллект

может потреблять четверть всей энергии, производимой в США.

Первый автор статьи Ян Лв, постдокторант факультета электротехники и вычислительной техники Университета Миннесоты, и остальные члены исследовательской группы уже подали заявки на несколько патентов на основе новой технологии. Они планируют работать с лидерами полупроводниковой промышленности, в том числе из Миннесоты, для проведения крупномасштабных демонстраций и производства оборудования, которое поможет улучшить функциональность искусственного интеллекта, а также сделать его более эффективным.

Источник: Tomshardware.com