Знаменитости и эксперты призывают запретить разработку сверхразумного ИИ

Искусственный сверхразум для большинства из нас — довольно пугающая мысль. Человекоподобный ИИ, гораздо более разумный и способный, чем любой из существующих, разрабатываемый компаниями, которые часто кажутся неподготовленными (или безразличными) к потенциальным побочным эффектам его внедрения.

Тем не менее, такие лидеры индустрии, как Марк Цукерберг, утверждают, что искусственный сверхразум неизбежен, и мы все должны этому радоваться.

Многие с этим не согласны, и в их числе — внушительный список знаменитостей, бывших государственных чиновников, философов, инженеров и ученых, подписавших онлайн-заявление с призывом к его запрету, созданное Институтом будущего жизни. В заявлении говорится:

«Мы призываем к запрету на разработку сверхразума, который не должен быть снят до тех пор, пока не будет: 1. Широкого научного консенсуса о том, что это будет сделано безопасно и контролируемо, и 2. Сильной общественной поддержки».

Заявление подписали самые разные известные личности — от Стивена Фрая до бывшего стратега Белого дома Стива Бэннона. Кто мог предположить, что эти двое окажутся по одну сторону баррикад?

Просматривая список, удивительно видеть диапазон публичных фигур, готовых выступить против развития человекоподобного ИИ, по крайней мере, до тех пор, пока мы как вид не поймем, можно ли его внедрить безопасно и контролируемо. Среди подписавшихся — Ричард Брэнсон, соучредитель Apple Стив Возняк, Уилл Ай Эм, Граймс и принц Гарри.

Актер Джозеф Гордон-Левитт оставил под своей подписью весьма проницательное замечание: «Да, нам нужны конкретные инструменты ИИ, которые могут помочь лечить болезни, укреплять национальную безопасность и т.д. Но должен ли ИИ также имитировать людей, "воспитывать" наших детей, превращать нас всех в зависимых от цифрового контента и зарабатывать миллиарды на показе рекламы? Большинство людей этого не хотят. Но именно это имеют в виду крупные технологические компании, когда говорят о создании "Сверхразума"».

Если отбросить шутки, то призыв против создания сверхразумного ИИ без научного консенсуса и общественной поддержки кажется благородным, однако сложно избавиться от ощущения, что частные компании, усердно работающие над ним в своих лабораториях, мало что заметят. По крайней мере, без серьезного государственного вмешательства, которое выглядит маловероятным, учитывая, что многие правительства мира, похоже, только рады позволить инвестициям в ИИ стимулировать их экономики — пока, казалось бы, неизбежно, не случится катастрофа.

Интересный факт: Институт будущего жизни — та же организация, которая в 2023 году организовала открытое письмо с призывом приостановить тренировку продвинутых систем ИИ, которое подписали Илон Маск и Стив Возняк. Однако тогда критики отмечали, что некоторые подписи могли быть подделаны, что вызвало дискуссии о достоверности таких инициатив.