Сооснователь OpenAI Илья Суцкевер: «Сверхразум будет создан через 5-20 лет»

В ходе обширного интервью на YouTube-канале Dwarkesh Patel сооснователь и научный руководитель компании Superintelligence (SSI) Илья Суцкевер заявил, что эра развития искусственного интеллекта (ИИ), движимая в первую очередь «масштабированием» вычислительных мощностей и данных, подходит к концу. На смену ей, по его словам, приходит «эра исследований», где ключом к прогрессу станут фундаментальные научные открытия.

Конец «эры масштабирования»

Суцкевер, один из создателей революционных моделей AlexNet и GPT-3, напомнил, что последние годы в ИИ доминировала парадигма масштабирования (scaling). «Компании полюбили это, потому что это давало очень низкорисковый способ инвестировать свои ресурсы», — отметил он. Рецепт был прост: больше данных, больше вычислений — лучший результат.

Однако этот подход исчерпывает себя. «Данные явно конечны, — констатировал Суцкевер. — Что вы делаете дальше?» По его мнению, простое увеличение масштабов в 100 раз уже не приведет к качественному преобразованию возможностей ИИ. «Так что мы возвращаемся к эре исследований, только с большими компьютерами», — заявил он.

Проблема «неровности» моделей и обобщения

Одну из ключевых проблем современных продвинутых ИИ-моделей Суцкевер назвал «неровностью» (jaggedness) их возможностей. Модели могут блестяще проходить сложные тесты, но при этом демонстрировать поразительную несостоятельность в реальных задачах, например, бесконечно зацикливаться на исправлении багов в коде.

Он объяснил это двумя возможными причинами. Во-первых, чрезмерной концентрацией на оптимизации под конкретные бенчмарки, что является своеобразным «взломом reward-функции» со стороны самих исследователей. Во-вторых, и это главное, — фундаментально недостаточным обобщением (generalization) по сравнению с человеком.

«Модели каким-то образом просто обобщают информацию значительно хуже, чем люди. Это сверхочевидно», — подчеркнул Суцкевер.

Человеческое обучение как эталон

Говоря о превосходстве человеческого интеллекта, Суцкевер привел пример с подростком, который учится водить машину всего за 10 часов без явной внешней reward-функции. Человек способен к эффективному непрерывному обучению на основе собственного опыта и внутренней «функции ценности», которая у людей тесно связана с эмоциями.

«Что, если обобщение было бы намного лучше?» — задается вопросом Суцкевер. Решение этой проблемы, по его мнению, является центральной задачей новой «эры исследований». Его компания SSI позиционирует себя как «компания эры исследований» и работает над собственными техническими подходами к улучшению обобщения.

Взгляд на будущее ИИ и безопасность

Суцкевер поделился своим видением пути к сверхинтеллекту. Он считает, что будущее не за единым всемогущим агентом, а за множеством систем, способных к быстрому обучению, подобно человеку. Эти системы будут развертываться в экономике, осваивая различные профессии и непрерывно совершенствуясь.

Что касается безопасности (alignment), Суцкевер высказал мнение, что по мере роста реальной мощи ИИ компании станут «гораздо более параноидальными» в вопросах безопасности. Он также предположил, что может произойти конвергенция стратегий среди ведущих лабораторий.

В качестве одной из возможных целей для выравнивания он предложил идею создания ИИ, который «заботится о разумной жизни» в целом. По его словам, такой подход может быть более устойчивым, особенно учитывая, что в будущем подавляющее большинство разумных существ могут составлять сами ИИ.

О SSI и сроках

Отвечая на вопрос о недавнем уходе сооснователя SSI, Суцкевер связал это с решением не принимать предложение о покупке компании от Meta. Он подтвердил, что SSI хорошо финансируется и имеет достаточные вычислительные ресурсы для своих исследований.

Свой прогноз по срокам появления систем с человеческим уровнем способности к обучению и, как следствие, к становлению сверхразума, Суцкевер оценил в 5-20 лет.

Таким образом, по мнению одного из ведущих мировых экспертов по ИИ, индустрия стоит на пороге фундаментального сдвига, где не размер чипов, а глубина идей будет определять будущее искусственного интеллекта.