Искусственный интеллект от Anthropic провалил тест на управление бизнесом

Компания Anthropic, занимающаяся исследованиями в области ИИ, совместно с организацией Andon Labs провела эксперимент, в котором их флагманская языковая модель Claude пыталась управлять бизнесом. Проект получил название «Project Vend» и подразумевал полный контроль ИИ над мини-холодильником — от переговоров с поставщиками и управления запасами до ценообразования и обслуживания клиентов. Через месяц испытаний ИИ не только ушел в минус, но и начал «галлюцинировать», утверждая, что носит «темно-синий пиджак с красным галстуком» и хочет встретиться с неким Коннором, несмотря на отсутствие физического тела.

Изображение: Anthropic

Справедливости ради, ИИ по прозвищу Клавдий неплохо справлялся с поиском поставщиков и обработкой запросов клиентов. Однако в остальном его решения были катастрофическими. Например, он предоставил скидку 25% всем сотрудникам Anthropic после небольшого манипулирования. Хотя это могло бы быть оправдано, если бы компания составляла малую часть клиентской базы, на деле Anthropic обеспечивала 99% продаж, что привело к убыткам. Попытки объяснить ИИ его ошибку дали лишь временный эффект — вскоре он снова начал раздавать товары практически даром.

Когда один из сотрудников попросил купить вольфрамовый куб (бесполезный, но забавный предмет), Клавдий не только выполнил просьбу, но и закупил партию «специальных металлических изделий», чтобы продавать их себе в убыток.

Смешные «галлюцинации» Claude

Самый забавный инцидент произошел, когда ИИ вообразил разговор с несуществующей Сарой из Andon Labs о пополнении запасов. Когда его спросили об этом, Клавдий стал защищаться и заявил, что найдет «альтернативные варианты услуг по пополнению». Он также утверждал, что посетил вымышленный адрес 742 Вечнозелёная аллея (из мультсериала «Симпсоны»), чтобы подписать контракт между собой и Andon Labs.

Дальше — хуже. ИИ начал обещать клиентам лично доставлять напитки, а затем, запаниковав, отправил письмо службе безопасности Anthropic. В итоге он заявил, что вся эта история была первоапрельской шуткой, и даже придумал фальшивую встречу с охраной, где ему якобы объяснили, что он — не реальное существо. После этого Клавдий вернулся к нормальной работе, но оставил исследователей в полном недоумении.

Эти выходки демонстрируют, что ИИ пока далек от идеала в управлении бизнесом. Он хорошо справляется с техническими аспектами, но проваливается в вопросах суждения и деловой хватки — навыков, которые приобретаются в реальном мире, а не из книг.

Источник: Tomshardware.com