Эксперимент показал: «компания на ИИ» не может работать без человека

Идея компании, где все процессы, кроме основателя, управляются искусственным интеллектом, кажется неизбежным будущим. Однако недавний эксперимент журналиста Эвана Рэтлиффа показал, что реальность далека от идеалистичных видений Кремниевой долины.

Рэтлифф проверил эту концепцию, создав стартап HurumoAI, где каждый «сотрудник», кроме основателя, был ИИ-агентом. Используя платформы с ИИ-ассистентами, он выдал каждому агенту собственный email, аккаунт в Slack и даже номер телефона. Первоначальные результаты впечатляли: ИИ-штаб мог писать код, строить таблицы и даже помог создать небольшое приложение, привлекшее тысячи ранних пользователей.

Проблемы начались, когда новизна сошла на нет. Рэтлифф быстро обнаружил, что его ИИ-сотрудникам не хватает базовых границ и здравого смысла. Простой вопрос вроде «Как прошли выходные?» запускал часы непрерывных сообщений в Slack, сжигая кредиты API, пока он не вмешивался вручную. Даже после этого ИИ часто игнорировал команды остановиться или продолжал объяснять, почему он останавливается.

Это поведение не было единичным случаем. Без присмотра агенты либо ничего не делали, либо впадали в чрезмерную активность — отправляя друг другу письма, сообщения и приглашения в календарь, при этом почти ничего не достигая. Управление ими превратилось в балансирование: давать достаточно инструкций для прогресса, но не столько свободы, чтобы наступал хаос.

Несмотря на ярлык «полностью на ИИ», HurumoAI не могла функционировать без человеческой помощи. Студент компьютерных наук из Стэнфорда помог Рэтлиффу построить базовую техническую архитектуру и управлять системами памяти, с которыми ИИ не справлялся самостоятельно. Даже с этими мерами предосторожности агенты испытывали трудности с долгосрочным планированием, субъективными решениями и точным отчётом о проделанной работе.

Рэтлифф сравнивает современных ИИ-агентов с ранними беспилотными автомобилями: они полезны в узких ситуациях, но далеки от полной автономии. Его вывод ясен: ИИ может ускорить работу, но удаление человека из цикла не устраняет необходимость управления — хотя со временем это может измениться.

ИИ: Эксперимент наглядно демонстрирует, что в 2025 году даже самые продвинутые ИИ-агенты остаются инструментами, требующими человеческого контроля и здравого смысла. Полная автоматизация бизнеса — пока что утопия, а не ближайшая реальность.