Исследователи используют книги о Гарри Поттере для экспериментов с генеративным ИИ

Спустя более чем два десятилетия после того, как Джоан Роулинг открыла миру вселенную волшебных существ, запретных лесов и волшебника-подростка, «Гарри Поттер» обретает новую актуальность в совершенно другой области — исследованиях искусственного интеллекта.

Все большее число исследователей используют бестселлеры о Гарри Поттере для экспериментов с технологиями генеративного искусственного интеллекта, ссылаясь на непреходящее влияние серии на массовую культуру, а также на широкий спектр языковых данных и сложную игру слов на страницах книг. Просмотр списка исследований и научных статей, ссылающихся на Гарри Поттера, дает представление о передовых исследованиях в области искусственного интеллекта и некоторых из самых сложных вопросов, стоящих перед этой технологией.

Пожалуй, самый примечательный недавний пример — статья под названием «Кто такой Гарри Поттер?», которая проливает свет на новую технику, помогающую большим языковым моделям выборочно «забывать» информацию. Это задача с высокими ставками для отрасли: крупные языковые модели, на которых работают чат-боты с искусственным интеллектом, строятся на огромных объемах онлайн-данных, включая материалы, защищенные авторским правом, и другом проблемном контенте. Это привело к судебным искам и общественному контролю в отношении некоторых компаний, занимающихся искусственным интеллектом.

Авторы статьи, исследователи Microsoft Марк Руссинович и Ронен Элдан, заявили, что модели ИИ можно изменять или редактировать, чтобы удалить любую информацию о существовании книг о Гарри Поттере, включая персонажей и сюжеты, не жертвуя при этом общими творческими и аналитическими способностями системы ИИ.

Авторы отмечают, что эти книги были выбраны из-за их всеобщей известности. «Мы считали, что людям в исследовательском сообществе будет легче оценить модель, полученную с помощью нашей методики», — сказал Руссинович, технический директор Microsoft Azure. «Почти каждый может придумать подсказки для модели, которые проверят, «знает» ли система книги. Даже люди, которые не читали книги о Гарри Поттере, знают об элементах сюжета и персонажах».