Глава DeepMind призвал к созданию независимого органа для регулирования передового ИИ

Генеральный директор Google DeepMind Демис Хассабис призвал к созданию нового регулирующего органа для контроля за выпуском передовых моделей ИИ. Во вторник утром он опубликовал в X пост под названием «Рамки для передового ИИ и наступление новой эры», в котором обосновал необходимость создания «организации по стандартам» по образцу Регулирующего органа финансовой индустрии (FINRA). Эта организация могла бы тестировать передовые модели и разрабатывать лучшие практики для их выпуска.

«Изначально передовые лаборатории добровольно предоставляли бы модели организации по стандартам для проверки за 30 дней до выпуска, — говорится в посте. — Как только протокол оценки покажет свою эффективность и надежность, формализация может последовать быстро, что будет означать, что передовые модели должны будут пройти его для развертывания на рынке США. Лаборатории также будут работать с организацией по стандартам над устранением любых критических уязвимостей после выпуска».

Предлагаемая система будет основываться на специальных проверках, проведенных правительством США в отношении моделей Mythos от Anthropic и Sol от OpenAI. Эти проверки подверглись значительной критике из-за отсутствия технических знаний и непрозрачности процесса принятия решений о том, когда модель может быть выпущена. При предлагаемом Хассабисом регуляторе эти решения могли бы быть переданы новой организации, поддерживаемой правительством США, но финансируемой индустрией ИИ и действующей независимо.

Перспектива регулирования ИИ остается спорной как для технологической индустрии, так и для администрации президента Трампа. Совсем недавно советник Белого дома по ИИ и генеральный партнер a16z Шрирам Кришнан отверг возможность создания регулятора ИИ в рамках исполнительной власти, заявив, что «не будет FDA для ИИ».

Создание организации по стандартам в качестве саморегулируемой организации, подобной FINRA, может стать способом решения этих проблем. Хассабис представляет, что в регуляторе будут работать представители открытого исходного кода и технические эксперты из индустрии, а также он будет получать финансовую поддержку от лабораторий ИИ, необходимую для их удержания. Они могли бы даже передавать некоторые оценки растущему числу групп по безопасности ИИ, которые могли бы специализироваться на конкретных рисках.

«Сила этого подхода в том, что он был бы технически ориентированным, одновременно поддерживая инновации и стимулируя ответственное поведение, — утверждает Хассабис. — Он разработан, чтобы успевать за ускорением в этой области и адаптироваться к самым большим рискам по мере их выявления, и может быть ужесточен, если серьезность ситуации потребует этого».