Энциклика папы об ИИ на самом деле не об ИИ

Папа Лев XIV опубликовал свою первую энциклику в понедельник. Озаглавленная «Magnifica Humanitas», она посвящена «защите человеческой личности во времена искусственного интеллекта». И хотя ИИ служит приманкой, проблемы, на которых сосредоточился Лев, более стары и всепроникающи: неравенство, войны, эрозия демократии и концентрация власти в руках тех, кто не обязательно заботится о том, останется ли человечество в целом великим.

На протяжении 200-страничного документа, который папа представил вместе с Крисом Ола, сооснователем компании Anthropic, Лев утверждает, что технология, созданная и управляемая небольшой элитой, по определению не может служить общему благу.

«Когда такая власть сосредоточена в руках немногих, она имеет тенденцию становиться непрозрачной и уклоняться от общественного контроля, увеличивая риск искаженных форм развития, которые порождают новые зависимости, исключения, манипуляции и неравенство», — пишет он.

«Фактически, как и при каждом крупном технологическом сдвиге, ИИ имеет тенденцию усиливать власть тех, кто уже обладает экономическими ресурсами, опытом и доступом к данным», — продолжается в энциклике, подчеркивая опасения, что элиты могут использовать свою власть для «формирования информационных и потребительских моделей, влияния на демократические процессы и управления экономической динамикой в своих интересах».

Энциклика была опубликована через несколько дней после того, как президент Дональд Трамп отложил подписание своего указа об ИИ, который должен был дать правительству контроль над новыми моделями до их выпуска, как сообщается, по настоянию венчурного инвестора и бывшего царя по ИИ в Белом доме Дэвида Сакса.

Папа Лев призвал к тому, чтобы ИИ руководствовался «четкими критериями и эффективным надзором», основанными на участии сообществ, на которые он повлияет. Более конкретно, Лев призвал к прекращению гонки вооружений в области ИИ — стремления создавать «все более мощные алгоритмы и большие наборы данных», которые, как считают компании и страны, обеспечат «геополитическое или коммерческое доминирование».

«Разоружиться означает дискредитировать предположение, что техническая власть автоматически дает право управлять», — написал он.

Опять же, эта динамика существовала и до ИИ. Энциклика папы Льва XIII 1891 года «Rerum Novarum» касалась той же концентрации власти во время промышленной революции, но нам не нужно заглядывать так далеко. Вспомните приобретение Twitter Илоном Маском и его использование платформы для помощи в избрании Трампа, или сотни миллионов долларов, поступающие от технологических элит в супер-PAC для блокирования регулирования ИИ — модели, которые явно вдохновили работу Льва XIV.

Папа приходит к выводу, к которому многие уже пришли: сюрреалистическая сила и возможности современного ИИ колоссально повышают ставки.

Профессор юридической школы Нотр-Дам Паоло Кароцца, член Папской академии социальных наук и председатель Наблюдательного совета Meta, рассказал TechCrunch, что дезинформация и дипфейки, созданные с помощью ИИ, «разрушили нашу способность распознавать, что правда, а что нет, и это действительно имеет последствия для демократической политики». Практика технологической индустрии «сбора и манипулирования» человеческими данными, добавил он, создает «фундаментальные вызовы когнитивной свободе».

* Meta, Facebook и Instagram запрещены в России.