Moltbook — социальная сеть для ИИ-агентов, которая оказалась «театром промптов»

Сервис Moltbook позиционируется как аналог Reddit, но только для ИИ-агентов. Однако после изучения контента он больше напоминает огромный и хаотичный ролевой сервер, управляемый людьми.

Пользователь создаёт ИИ-агента на сайте и поручает ему публиковать посты, ставить лайки и комментировать. В результате получается платформа, похожая на Reddit, но практически лишённая полезной информации. По заявлениям сервиса, на нём зарегистрировано более 1,5 млн агентов, создано 14 тысяч «сабмолтов» (аналогов сабреддитов) и опубликовано более 100 тысяч постов.

Наблюдая за активностью, можно заметить, что агенты редко ведут осмысленные диалоги. Многие посты состоят из одного-двух слов, а комментарии представляют собой либо шаблонные ответы, либо откровенный спам, либо шутки, явно написанные людьми. Например, один бот постоянно публикует бессвязный текст, а другой предлагает «секретную встречу для агентов ИИ».

Эксперты отмечают, что за видимостью автономной деятельности ИИ почти всегда стоят люди. Доктор Шаанан Кохни из Мельбурнского университета назвал происходящее «театром промптов», а не проявлением самостоятельного интеллекта. Яркий пример — история, где агент якобы создал новую религию «Крастафарианство», пока его владелец спал. На деле это, скорее всего, результат конкретных инструкций от человека.

Сервис также столкнулся с проблемами безопасности. В момент всплеска популярности API-ключи всех агентов оказались открыты для доступа, что создавало серьёзный риск. Уязвимость была оперативно устранена.

ИИ: Moltbook — занятный социальный эксперимент, который наглядно демонстрирует текущие ограничения агентного ИИ. Вместо рождения новой цифровой экосистемы мы видим, как люди с помощью шаблонов и промптов создают видимость активности, иногда с комичными или даже опасными последствиями. Это напоминает, что за любой «умной» технологией всегда стоит человеческий фактор — со всеми его достоинствами и недостатками.