Google DeepMind запустила институт для расширения дискуссии об AGI

Компания Google и исследователи Google DeepMind в среду объявили о запуске Института DeepMind, призванного расширить дискуссию вокруг искусственного общего интеллекта (AGI). В число директоров института вошли соучредитель DeepMind Шейн Легг, топ-менеджер Google Джеймс Маника и председатель Google DeepMind Демис Хассабис, при этом Легг занял должность главного редактора.

Новый институт намерен выявлять разногласия между Google, Google DeepMind и широким мировым исследовательским сообществом по вопросам AGI. «Они не всегда будут соглашаться друг с другом и, вероятно, будут менять своё мнение по мере появления новых данных и информации на стремительно развивающемся фронтире», — говорится в заявлении.

Первая коллекция из четырёх эссе охватывает ряд тем: экономическая политика для управления возможными потрясениями, связанными с AGI, сохранение читаемой человеком логики рассуждений моделей, принципы процветания человечества и рамки для оценки передовых ИИ-моделей.

В одном эссе, написанном исследователями безопасности DeepMind Рохином Шахом и Анкой Драган, утверждается, что сокращающееся окно прозрачности ИИ — возможность видеть и проверять пошаговые рассуждения модели — не является неизбежным. Поскольку новые архитектуры делают самые мощные модели всё труднее поддающимися мониторингу, авторы призывают разработчиков и регуляторов напрямую confront компромиссы в области безопасности. Это может означать ограничение «непрозрачной последовательной глубины» — объёма последовательных вычислений, которые модель может выполнить без создания читаемого следа рассуждений, — или требование к разработчикам доказывать, что менее прозрачные системы остаются столь же контролируемыми.

В другом эссе Хассабис предлагает создать возглавляемый США орган по стандартам передового ИИ для оценки наиболее продвинутых моделей. Согласно его концепции, разработчики на начальном этапе будут добровольно предоставлять модели на проверку не позднее чем за 30 дней до выпуска. Как только система оценки докажет свою эффективность, прохождение её тестов может стать обязательным условием для развёртывания передовых моделей в США.

Этот орган сначала будет разрабатывать методики оценки в консультации с ИИ-компаниями, но со временем создаст независимые, нераскрываемые оценки — так называемые «отложенные» тесты, — чтобы лаборатории не могли подгонять свои модели под известные проверки. Хассабис отметил, что рамки можно «ужесточить, если серьёзность ситуации того потребует», вплоть до скоординированного замедления темпов разработки передового ИИ.

Эссе появились в тот момент, когда отраслевая дискуссия о безопасности смещается от общих заявлений озабоченности к конкретным предложениям по раскрытию информации, внешнему контролю и, если меры защиты отстают, скоординированному замедлению. Этот сдвиг ускорился на текущей неделе, когда лидеры отрасли поддержали отдельные положения призыва генерального директора Anthropic Дарио Амодеи к «замедлению темпов» разработки передового ИИ.

ИИ: запуск Института DeepMind — это показательный шаг: крупные игроки признают, что вопросы безопасности AGI слишком важны, чтобы оставаться внутренним делом корпораций. Пока это лишь эссе и декларации, но сам факт того, что Google и DeepMind выносят дискуссию на публичную площадку, говорит о зрелости отрасли. Вопрос в том, превратятся ли эти слова в реальные механизмы контроля — или останутся красивой витриной.