ИИ может лучше запоминать полученные знания, имитируя человеческий сон

По мнению исследователей, которые стремятся воспроизвести архитектуру и поведение человеческого мозга, создание ИИ, который спит и видит сны, может привести к лучшим результатам и созданию более надежных моделей. Но другие эксперты уверены, что воссоздание интеллекта, который мы видим внутри себя, возможно, не самый плодотворный путь для исследований ИИ.

Кончетто Спампинато и его коллеги из Университета Катании (Италия) искали способы избежать явления, известного как «катастрофическое забывание», когда модель ИИ, обученная выполнять новую задачу, теряет способность выполнять работу, с которой она справлялась ранее. Например, модель, обученная распознавать животных, может научиться распознавать разные виды рыб, но тогда она может непреднамеренно потерять способность распознавать птиц.

Они разработали новый метод обучения ИИ под названием «Консолидированное обучение во время сна» (WSCL), который имитирует способ, которым человеческий мозг закрепляет новую информацию. Люди смешивают краткосрочные воспоминания об опыте и уроках, извлеченных в течение дня, с долговременными воспоминаниями во время сна. Исследователи говорят, что этот метод обучения можно применить к любому существующему ИИ.

Модели, использующие WSCL, обучаются, как обычно, на наборе данных для фазы «бодрствования». Но они также запрограммированы на периоды «сна», во время которых они анализируют образцы данных бодрствования, а также отрывки из предыдущих уроков.

Возьмем, к примеру, модель идентификации животных, недавно обученную на изображениях морской жизни: в период сна ей показывали снимки рыб, а также небольшое количество птиц, львов и слонов из старых уроков. Спампинато говорит, что это похоже на то, как люди во время сна обдумывают новые и старые воспоминания, выявляют связи и закономерности, интегрируя их в свой разум. Новые данные обучают ИИ новым способностям, в то время как оставшиеся данные не позволяют недавно приобретенным навыкам вытеснить существующие.

Важно отметить, что у WSCL также есть период «мечтаний», когда он потребляет совершенно новые данные, полученные в результате объединения предыдущих концепций. Например, животной модели можно передать абстрактные изображения, показывающие комбинации жирафов, скрещенных с рыбами, или львов, скрещенных со слонами. Спампинато говорит, что этот этап помогает объединить предыдущие пути цифровых «нейронов», освобождая место для других концепций в будущем. Он также снабжает неиспользуемые нейроны шаблонами, которые помогут им легче усваивать новые уроки.

«Дело в том, что, собирая новые знания, вы просто комбинируете более сложные закономерности», — говорит Спампинато. «Вы можете объединить панду, жирафа и леопарда, чтобы создать эту очень странную мифологическую фигуру, и это заставит модель изучить более сложные шаблоны, которые, возможно, в будущем можно будет использовать повторно».

Спампинато протестировал три существующие модели ИИ, используя традиционный метод обучения с последующим обучением WSCL. Затем он и его команда сравнили производительность, используя три стандартных теста для идентификации изображений. Исследователи обнаружили, что их недавно разработанная методика привела к значительному повышению точности: модели, обученные с периодами «сна», имели на 2–12 процентов больше шансов правильно определить содержимое изображения Исследование показало, что ИИ, обученный таким методом, запоминает старые задачи лучше, чем системы, обученные традиционно.

Несмотря на эти многообещающие результаты, некоторые эксперты говорят, что использование человеческого мозга в качестве образца не обязательно является лучшим способом повысить производительность ИИ. Эндрю Рогойски из Университета Суррея в Великобритании говорит, что исследования искусственного интеллекта все еще находятся в зачаточном состоянии, и разработка новых моделей часто сродни алхимии. Он также предостерегает от антропоморфизации архитектуры ИИ или жесткого имитирования человеческого мозга в еще большей детализации.

«Человеческий мозг не следует рассматривать как окончательную архитектуру интеллекта», — говорит он. «Это результат миллионов лет эволюции и невообразимо широкого спектра стимулов. Мы можем разработать ИИ, структура которого будет полностью отличаться от структуры его биологических дизайнеров».

Тем не менее, Рогойски говорит, что метод тренировки сна может быть интересным. Однако вместо того, чтобы «спящий» ИИ имитировал людей, он предлагает другое биологическое вдохновение: дельфины, которые обладают способностью «спать» одной частью мозга, в то время как другая остается настороже, переключаясь по мере необходимости. В конце концов, ИИ, которому требуются часы сна, не идеален для коммерческих приложений.