Манифест Цукерберга об ИИ: почему он вызывает недоверие

В понедельник Марк Цукерберг опубликовал манифест из 6500 слов о персональном ИИ, в основном о возможностях систем «персонального суперинтеллекта», которые создает Meta AI. Идеи в посте не совсем новые: версия эссе вышла в Wall Street Journal две недели назад, и он говорил о них на звонках Meta по доходам. Но это, вероятно, самая подробная версия из опубликованных.

Я видел, как это описывали как эссе против «апокалипсиса», но это не совсем так. Это скорее описание того, почему Марк Цукерберг лично взволнован тем, как ИИ изменит общество. Однако, даже пытаясь нарисовать картину прекрасного будущего, которое принесет изобильный суперинтеллект, он постоянно напоминает нам о всех способах, которыми оно, вероятно, пойдет не так.

Мне тоже интересен ИИ — именно поэтому я продолжаю о нем писать, — но многие люди видят в ИИ нечто жуткое и неприятное. Поэтому стоит точно определить, что здесь происходит и почему Цукерберг не оказывает индустрии услуги такими эссе.

Социальные сети до сих пор остаются чувствительной темой в технологической индустрии, и у нас нет места, чтобы обсуждать относительные достоинства каждой жалобы на Facebook. Достаточно сказать, что Facebook как продукт и Цукерберг как личность непопулярны у американской публики. Недавний опрос показал, что 64% американцев считают, что социальные сети нанесли вред демократии, и аналогичный процент считает, что их следует более жестко регулировать; эти цифры одинаковы для всех партий. Только на прошлых выходных суд оштрафовал компанию на 567 миллионов долларов (около 45,4 млрд рублей) за вред, причиненный детям. Настроения плохие.

Я упоминаю об этом не для того, чтобы намекнуть, что Цукербергу следует удалиться в пустыню от стыда, — но последствия социальных сетей являются одной из главных причин, по которой мы сейчас наблюдаем так много тревог о социальном влиянии ИИ. Справедливо это или нет, но публика не доверяет техническим руководителям в том, что они обеспечат положительное влияние новых технологий на общество. Вместо того чтобы признать это и попытаться вернуть доверие, это эссе снова и снова демонстрирует, как это доверие было потеряно.

Большая часть эссе посвящена туманным обобщениям об интеллекте — очень похожим на туманные обобщения, которые Цукерберг и Дорси раньше делали о свободе слова. Вот один из примеров:

По мере того как каждый получает более мощные инструменты, каждый человек становится более способным формировать будущее, а не менее. ... Люди и институты с конкурирующими интересами естественным образом уравновешивают друг друга, что ведет к положительным результатам. Лучший и самый реалистичный путь к созданию положительного ИИ-будущего — это предоставить суперинтеллект каждому.

Наверное? Я могу вспомнить несколько примеров, когда конфликтующие интересы приводили к плохим результатам, но давайте отложим это. Более странно то, что это преподносится как искренний философский вывод, а не как конкретный продукт под названием «персональный интеллект», который Meta выводит на рынок. Если вы уже склонны не доверять этому человеку, вы можете опасаться, что он пишет все это, чтобы убедить себя, что ничего плохого не может случиться.

Это чувство усилилось у меня, когда Цукерберг перешел к конкретным примерам, многие из которых вызывающе оторваны от реальности того, как инструменты ИИ используются на самом деле. Например, вот взгляд Цукерберга на ИИ в образовании:

У каждого будет персональный репетитор и наставник с докторской степенью по каждому предмету и безграничным терпением, который поможет вам выучить все, что вы захотите. Студенты получат дополнительную помощь в тех областях, где она им нужна, которая сейчас доступна только тем, чьи родители могут за нее платить. Взрослые получат суперинтеллектуального ассистента по обучению, который точно знает, как научить вас новым профессиональным навыкам, новым языкам, новым хобби или чему угодно еще, что вам интересно.

Конечно, продукт, который описывает Цукерберг, уже существует: это потребительский чат-бот, такой как ChatGPT, Claude и Gemini. Эти инструменты действительно полезны, если вы хотите изучить определенную тему, но основной способ их использования в образовании — это избегание обучения, поскольку ваш персональный репетитор может сделать вашу домашнюю работу и написать ваше эссе, а из-за отсутствия надежной системы водяных знаков учителя не могут быть уверены, какие эссе были созданы с помощью ИИ.

Это довольно низкорисковый пример вреда ИИ, но это реальная вещь, которая происходит прямо сейчас. Иногда вы создаете технологию для хороших дел, а она имеет непредвиденные последствия, которые делают вещи хуже. И тот факт, что один из самых влиятельных людей в мире отказывается это признавать, может вызывать у людей понятное беспокойство!

Цукерберг также приводит пример того, как ИИ изменит правовую систему к лучшему:

В качестве мысленного эксперимента представьте, что только у одного человека есть суперинтеллектуальный адвокат. У него было бы несправедливое преимущество в суде — даже если бы он был неправ по существу. Это привело бы к худшему обществу. Но теперь представьте, что у всех есть суперинтеллектуальный адвокат. В этом случае правосудие осуществлялось бы гораздо более справедливо и эффективно, чем сегодня, когда часто существует дисбаланс в навыках и ресурсах в судебных разбирательствах.

Опять же, это нагруженный пример. Конечно, доступ к юридическому ИИ может привести к более справедливому обществу, но он также может добавить больше сложности в бюрократический ад, который уже существует. Или он может породить новую волну сутяжников, которые просто засорят систему юридическим эквивалентом спама. Трудно чувствовать спокойствие по поводу всего этого, и тот факт, что Цукерберг не обеспокоен, беспокоит меня еще больше.

В других местах даже описания существующей деловой практики Meta начинают приобретать странно абстрактный характер. Например, вот как Цукерберг описывает приверженность Meta модели freemium:

У всех будет бесплатный или недорогой доступ к этим инструментам. ... Мы предложим бесплатные версии, доступные миллиардам людей. Для тех, кто хочет платить за использование больших вычислительных мощностей, будет действовать динамический аукционный механизм, который гарантирует, что каждый получит самую низкую возможную цену за используемый интеллект и вычисления, а также обеспечит использование мощностей для того, что люди коллективно считают наиболее ценным. Это обеспечит широкое распределение преимуществ суперинтеллекта.

В общих чертах я согласен со всем, что он здесь говорит. Цукерберг прав, что доступ — это проблема, и он прав, что модель freemium обеспечивает больший доступ, чем требование ко всем платить за вычисления заранее. Динамические рынки вычислительных мощностей уже существуют, так что он не придумывает что-то совершенно необычное. Но есть причина, по которой каждый потребительский ИИ-продукт изолирует конечных пользователей от спотовой цены на используемые ими вычисления. Динамическое ценообразование — это ужасный пользовательский опыт, особенно когда оно применяется к инструменту, на который вы действительно полагаетесь в своей работе.

Опять же, я должен предположить, что Цукерберг это знает и не планирует на самом деле устанавливать цены на токены через динамические аукционы. Но теперь я в этом менее уверен, чем до прочтения этой статьи.

Есть лучшие способы говорить об этом. При всех их недостатках Сэм Альтман и Дарио Амодеи неплохо справляются с прямым общением с публикой. Они делают именно то, чему сопротивляется Цукерберг: признают опасности ИИ, подчеркивают свои меры предосторожности и пытаются убедить слушателей, что им можно доверять.

Такое общение может сделать не так много. Иногда (особенно в последнее время) меры предосторожности дают сбой, и становится ясна внутренняя опасность всего предприятия. Но без некоторого укрепления доверия индустрия может не всегда пережить эти неудачи.

* Meta, Facebook и Instagram запрещены в России.