Король Карл III призвал взять ИИ под контроль «пока не стало слишком поздно»

Король Великобритании Карл III провёл в четверг закрытый саммит, посвящённый искусственному интеллекту. В числе приглашённых были самые заметные фигуры в сфере ИИ и представители британского правительства: глава Nvidia Дженсен Хуанг, руководители OpenAI и Anthropic, новый министр по делам ИИ Канишка Нараян, а также глава внешней разведки Великобритании. На мероприятии присутствовал и Паоло Бенанти, советник папы римского по вопросам ИИ.

Саммит прошёл в Дамфрис-хаусе — поместье XVIII века в Эйршире, принадлежащем благотворительному фонду короля. Выступление монарха стало примечательным: по конституционным причинам королевская семья обычно старается не углубляться в политические вопросы, а ИИ сегодня — одна из самых горячих тем в мире. Карл III призвал собравшихся найти способ взять ИИ под контроль, «пока не стало слишком поздно», добавив, что стремительное развитие технологии и её «суть» вызывают одновременно и интерес, и глубокую тревогу.

«ИИ уже демонстрирует огромные возможности для улучшения и спасения жизни», — сказал он, приведя в пример медицину и науку. «Однако те, кто создал эти технологии, сегодня всё чаще предупреждают, что ИИ рискует обрести более мрачные способности — возможно, даже отнимать жизнь». Это заявление прозвучало всего через несколько дней после того, как сотрудник Anthropic уволился, написав в сети, что компании, работающие над ИИ, «наперегонки строят машины, которые намного умнее любого человека», и что человечество «может этого не пережить».

Король продолжил, заявив, что необходимо срочно серьёзно рассмотреть «экзистенциальные опасности» того, что произойдёт, если технология попадёт в неверные руки и будет использована «потенциально катастрофическими способами».

Изображения: Jonathan Brady / POOL / AFP / Getty Images

«Неужели нам не нужны достаточные средства контроля, пока не стало слишком поздно?» — сказал он. Завершая выступление, Карл III призвал лидеров найти способ использовать ИИ во благо и выстроить международное сотрудничество и консенсус для достижения этой цели. (Это замечание прозвучало после того, как Anthropic закрыла доступ к своим моделям Fable и Mythos, оставив его только для клиентов из США, что шокировало европейское технологическое сообщество и заставило многих задуматься о концепции суверенитета в сфере ИИ.)

«Ваша задача — не просто продвигать технологию, но обеспечить, чтобы она оставалась верным слугой человечества, общества и природы», — сказал он в завершение речи. «Принимая новое, мы не должны терять то, что вечно».

По сообщениям СМИ, король оставался на встрече около 20 минут, после чего предоставил гостям возможность обсудить вопросы между собой. На саммит OpenAI направила финансового директора Сару Фрайар, а Anthropic — Тино Куэльяра, отвечающего за глобальные вопросы. В комментарии для прессы Куэльяр заявил, что компания почла за честь участвовать в дискуссии и благодарна королю за то, что он «собрал лидеров отрасли и голоса со всего общества, чтобы обсудить роль ИИ в служении общественному благу».

Это не первый случай, когда Карл III высказывается о вызовах и преимуществах ИИ — он делал это в 2023 и 2024 годах. Однако нынешний саммит особенно своевременен: ИИ продолжает доминировать в каждой отрасли, теме и форме разговора. В этом месяце Сэм Альтман из OpenAI, Илон Маск и Дарио Амодеи из Anthropic призвали замедлить развитие ИИ, но Дженсен Хуанг из Nvidia и президент Дональд Трамп быстро отвергли эти призывы. «Мы лидируем в ИИ по сравнению с Китаем, — сказал президент. — Мы самая развитая страна в мире, и, честно говоря, я хочу, чтобы так и оставалось, потому что кто побеждает в ИИ — тот побеждает во всём».

Всё это показывает, насколько сложным стал вопрос, когда интересы Big Tech, политики и общества сталкиваются. За последний год OpenAI и Anthropic намекали на громкие IPO, хотя недавно OpenAI заявила, что её планы по выходу на биржу в этом году застопорились из-за сохраняющихся опасений по поводу безопасности ИИ.