Глава Anthropic объяснил, почему негатив к ИИ — это кризис доверия, а не проблема «плохого пиара»

Генеральный директор Anthropic Дарио Амодеи недавно ответил на критику в свой адрес, согласно которой он рисует излишне пессимистичную картину будущего искусственного интеллекта. Комментарии Амодеи стали реакцией на заявления инвестора Гэвина Бейкера, который в подкасте All-In и в соцсети X утверждал, что предупреждения главы Anthropic о рисках ИИ способствуют росту негативного отношения к технологии в США, особенно к дата-центрам.

Бейкер заявил, что Амодеи «проиграл спор» о регулировании ИИ (Anthropic выступала за некоторые меры, включая калифорнийский законопроект о прозрачности для крупных ИИ-компаний), и что «ему, как будущему главе одной из важнейших компаний мира, стоит быть более позитивным адвокатом своей отрасли». Однако Амодеи не согласился с мнением, что его «послания были непропорционально негативными». Он отметил, что его публикации «примерно в равной степени освещают и риски, и выгоды», а эссе «Машины любящей благодати» он написал, потому что «не чувствовал, что ИИ-индустрия рисует достаточно вдохновляющую картину того, как технология может радикально изменить мир к лучшему».

Тем не менее, Амодеи признал, что «у публики негативное мнение об ИИ» и что «это большая проблема». Он не согласился лишь с тем, что это негативное отношение «в первую очередь вызвано» им «или любым другим лидером ИИ, предупреждающим о рисках».

«Я думаю, что это фундаментально кризис доверия, — сказал Амодеи. — Обычные люди не доверяют компаниям, правительствам или технологической индустрии и всегда подозревают, что мы готовим новый способ их обмануть».

По его мнению, этот кризис назревал десятилетиями, а негативная реакция на ИИ — «лишь последняя его итерация». Амодеи также считает, что самая точная критика в адрес ИИ-компаний, включая Anthropic, заключается в том, что «мы еще не выполнили свои большие обещания принести пользу миру».

«Это полностью наша вина, и я думаю, что именно эту критику вы и должны высказывать, вместо разговоров о посланиях и маркетинге», — добавил он.

Иными словами, обещание, что ИИ вылечит рак, — «скорее клише, чем вдохновение»; то, что действительно изменило бы мнение людей об ИИ, — это «фактическое излечение рака».

Что касается регулирования, Амодеи заявил, что Бейкер предлагает «ложный выбор» между широким распространением ИИ без регулирования и концентрацией технологии в руках нескольких компаний через регулирование. Он отметил, что многие за пределами Кремниевой долины считают регулирование инструментом, ограничивающим корпоративную власть и приносящим пользу обычным людям. Амодеи добавил, что Anthropic всегда тщательно подходит к своим предложениям по политике, стараясь создавать меры, которые замедляют крупные фронтальные ИИ-компании, но при этом дают преимущества меньшим конкурентам.

По его мнению, ИИ «структурно является технологией, которая способствует концентрации власти», и открытые веса моделей лишь частично решают эту проблему, поскольку смещают концентрацию к тем, у кого больше вычислительных мощностей и чипов. Правильные «правила игры», считает Амодеи, могут одновременно решать риски ИИ в кибербезопасности и биологии, институционально ограничивать власть крупных компаний и оставлять пространство для моделей с открытым весом.