ИИ может стать умнее без гигантских наборов данных

Новое исследование Университета Джонса Хопкинса показывает, что системы искусственного интеллекта, построенные на биологически вдохновлённых архитектурах, могут начать напоминать активность человеческого мозга ещё до обучения на каких-либо данных. Исследование, опубликованное в журнале Nature Machine Intelligence, ставит под сомнение доминирующую стратегию в развитии ИИ, предполагающую, что путь к умным системам лежит только через огромные наборы данных и вычислительные мощности.

Исследователи обнаружили, что ИИ, построенный на биологически вдохновлённых архитектурах, может имитировать активность человеческого мозга до обучения. Открытие бросает вызов идее, что большие данные и вычислительная мощность — единственный путь к умному ИИ. Credit: Shutterstock

Ведущий автор исследования, доцент когнитивных наук Университета Джонса Хопкинса Мик Боннер, отметил:

Сейчас область ИИ движется в сторону того, чтобы скармливать моделям огромные массивы данных и строить вычислительные ресурсы размером с небольшие города. Это требует сотен миллиардов долларов. Между тем, люди учатся видеть, используя очень мало данных. Эволюция, возможно, пришла к такому дизайну не просто так. Наша работа предполагает, что архитектурные решения, более похожие на мозг, ставят системы ИИ в очень выгодную стартовую позицию.

Учёные сравнили три основных типа архитектур нейронных сетей: трансформеры, полносвязные сети и свёрточные нейронные сети. Создав десятки различных моделей и не обучая их, исследователи показали системам изображения объектов, людей и животных. Внутренняя активность этих «необученных» систем сравнивалась с реакцией мозга людей и приматов на те же изображения.

Оказалось, что увеличение числа искусственных нейронов в трансформерах и полносвязных сетях не приводило к значимым изменениям. Однако аналогичные корректировки в свёрточных нейронных сетях порождали паттерны активности, гораздо более близкие к человеческому мозгу. По словам исследователей, эти необученные свёрточные модели показали результаты, сопоставимые с традиционными системами ИИ, которым обычно требуется обработка миллионов или миллиардов изображений.

Если обучение на огромных данных действительно является решающим фактором, то не должно быть возможности получить ИИ, похожий на мозг, только за счёт архитектурных модификаций, — сказал Боннер. — Это означает, что, начав с правильного «чертежа» и, возможно, включив другие идеи из биологии, мы сможем радикально ускорить обучение систем ИИ.

Сейчас команда изучает простые биологически вдохновлённые методы обучения, которые могут привести к созданию нового поколения фреймворков глубокого обучения, делая ИИ быстрее, эффективнее и менее зависимым от гигантских наборов данных.