Папа Римский Лев XIV раскритиковал «культуру власти» в гонке ИИ и отказался признавать сознание у нейросетей

Папа Римский Лев XIV опубликовал свою первую энциклику под названием «Magnifica Humanitas» («Великолепное человечество»), в которой подверг резкой критике гонку в сфере искусственного интеллекта, назвав её «культурой власти». Понтифик призвал индустрию замедлиться и задуматься о последствиях.

«Технология никогда не бывает нейтральной, потому что она принимает характеристики тех, кто её разрабатывает, финансирует, регулирует и использует», — пишет Лев XIV в своем послании. Он неоднократно осуждает «культуру власти», которая движет дерегуляцией в сфере ИИ, и призывает компании работать на общее благо, а не на «идолопоклонство перед прибылью, которое приносит в жертву слабых».

Это не первая критика ИИ со стороны понтифика. Ещё в январе Лев XIV заявлял, что контент, сгенерированный ИИ, рискует разрушить творческие индустрии, «превращая людей в пассивных потребителей непродуманных мыслей и анонимных продуктов, лишённых авторства и любви». Стоит отметить, что папа выбрал себе имя в честь предшественника, руководившего церковью в эпоху промышленной революции, проводя параллели с нынешним развитием ИИ. Первая энциклика была подписана 15 мая, в 135-ю годовщину энциклики Льва XIII «Rerum novarum», которая также призывала к улучшению условий труда рабочих.

В «Magnifica Humanitas» также содержится критика использования ИИ в дистанционных войнах. Лев XIV пишет: «Хотя ИИ может улучшить защиту гражданских лиц, он также может снизить порог применения силы, оградить людей от ответственности и способствовать культуре, в которой враг сводится к статистике, а жертва — к "сопутствующему ущербу"».

Касаясь морали и «выравнивания» ИИ, понтифик предупреждает: «[Без более строгого надзора] те, кто контролирует ИИ, навяжут своё собственное моральное видение, которое станет невидимой инфраструктурой этих систем. Более морального ИИ недостаточно, если эта мораль определяется немногими».

Особое внимание в энциклике уделено вопросу «сознания» ИИ. Папа предостерегает от заблуждения, что способность языковых моделей генерировать связный текст, похожий на человеческий, можно принять за мудрость.

«Так называемые искусственные интеллекты не имеют опыта, не обладают телом, не чувствуют радости или боли, не взрослеют через отношения и не знают изнутри, что означают любовь, работа, дружба или ответственность, — пишет он. — У них также нет моральной совести, поскольку они не судят о добре и зле, не понимают конечного смысла ситуаций и не несут ответственности за последствия».

«Они могут имитировать язык, поведение и аналитические способности или даже симулировать эмпатию и понимание, но они не понимают того, что производят, ибо им не хватает аффективной, реляционной и духовной перспективы, через которую люди обретают мудрость», — добавляет понтифик.

Интересно, что позиция главы католической церкви, отказывающегося признавать иллюзию сознания у ИИ, контрастирует с недавним заявлением эволюционного биолога Ричарда Докинза, который настаивал, что ИИ-бот Claude «чертовски сознателен». В ответ на это редакция PCgamer отмечает, что их обозреватель Джейкоб раскритиковал аргументацию Докинза за отсутствие философской строгости.