Технологические компании уверены, что мир готов к «агентам искусственного интеллекта»

Google, OpenAI и другие стартапы в сфере ИИ приступили к продвижению нового уровня продуктов искусственного интеллекта, которые могут выполнять более сложные задачи для пользователей.

Чат-бот с искусственным интеллектом может предложить рецепт ужина или подробный маршрут поездки, но он не может заказать вам еду в супермаркете или забронировать рейс. Теперь технологические компании делают ставку на то, что людям нужны так называемые «агенты искусственного интеллекта», которые смогут выполнять эти задачи практически без человеческого контроля.

В прошлом месяце на конференции Alphabet о прибылях и убытках генеральный директор Сундар Пичаи заявил, что генеративный искусственный интеллект позволит таким продуктам, как Google Assistant, «со временем действовать больше как агент» и что в конечном итоге он сможет «выйти за рамки ответов, еще больше помогая пользователям». Microsoft внедряет свои продукты Copilot, позиционируемые как «повседневный спутник искусственного интеллекта», с возможностью создавать электронные письма и слайды непосредственно в Outlook и PowerPoint. А OpenAI, которая говорила об агентах со времени ноябрьской конференции разработчиков, сейчас разрабатывает два новых типа продуктов-агентов ИИ. Компания также предлагает другие продукты, в том числе настраиваемые версии ChatGPT, которые она описывает как шаг на пути к созданию агентов ИИ.

Технологические компании уже давно предлагает цифровых помощников для ускорения выполнения задач. Но эти более ранние инструменты «несколько ограничены в понимании ваших намерений», — сказал Ромен Юэ, руководитель отдела разработки OpenAI. В результате, по его словам, эти услуги редко выходят за рамки простых дел, таких как включение или выключение света.

«Причина, по которой агенты сейчас стали более интересными, заключается в том, что модели стали более способными», — говорит Юэ. «С такими моделями, как GPT-4, вы можете дать им очень сложную задачу и увидеть результат, который действительно представляет ценность».

Ряд стартапов, в том числе Adept, Imbue и Luda, собрали миллионы долларов для создания технологии, получившей название «агент ИИ». На этой неделе председатель OpenAI Брет Тейлор запустил новый стартап под названием Sierra, ориентированный на создание диалоговых агентов искусственного интеллекта для бизнеса. Он рассказал агентству Bloomberg, что скоро технология станет такой же важной, как мобильное приложение или веб-сайт.

Но хотя некоторые агенты ИИ уже доступны, не все они одинаково полезны. «В нынешнем цикле ажиотажа вокруг агентов все предлагают вещи, о которых можно показать короткое видео в соцсети, но в конечном счете это не так уж полезно», — сказал Луан, соучредитель Adept, которая занимается созданием агентов для бизнеса.

Луан, бывший вице-президент по разработке OpenAI, сказал, что он работал над агентами ИИ «еще до того, как люди стали называть их агентами». Теперь у Adept есть несколько крупных платёжеспособных бизнес-клиентов, которым они помогают решать задачи в таких областях, как HR, финансы, здравоохранение и цепочка поставок. Например, по словам Луана, это программное обеспечение может помочь компаниям привлечь новых сотрудников, объединяя данные из отдела кадров, расчета заработной платы и ИТ, а также отправляя соответствующую информацию новым сотрудникам, когда они приступают к работе.

Однако при создании агентов ИИ существуют проблемы. Чат-ботам с искусственным интеллектом все еще трудно правильно передать основные факты, особенно о текущих событиях. Одно дело, если чат-бот с искусственным интеллектом испортит ответ в рамках текстового обмена. Но если он предпринимает реальные действия от вашего имени, ставки намного выше.

«Мы поняли, что самое большое, чего сегодня не хватает, — это доверие пользователей», — сказал Канджун Цю, соучредитель и генеральный директор ИИ-стартапа Imbue. «Многие пользователи попробуют агентские продукты и скажут: «Это забавно», но они не будут использовать их для чего-либо, если не доверяют им».

Если большие языковые модели ИИ продолжат совершенствовать свои способности к рассуждению и работать более надежно, доверие пользователей может возрасти. Но также важно, по словам Цю, разработать агентов искусственного интеллекта, которые постоянно проверяются людьми, чтобы убедиться, что они на правильном пути, подобно тому, как сотрудник делится обновленной информацией о статусе проекта со своим начальником, сказал Цю.

В декабре группа исследователей из OpenAI опубликовала документ, в котором излагаются лучшие практики безопасного использования агентов ИИ. По мнению исследователей, при плохом исполнении чрезмерная зависимость от дефектных агентов ИИ «может создать условия для широкого использования небезопасных систем ИИ, что в худшем случае может привести к катастрофическим последствиям». Одна из проблем, вызывающих беспокойство, заключается в том, что пользователь «не желает или не может отключить» систему агентов ИИ, которая причиняет вред.

Чтобы снизить эти риски, в документе предлагаются предложения по ответственной разработке агентов ИИ. Например, заставить инструменты запрашивать одобрение пользователей перед выполнением задачи, создать системы с «процедурой плавного завершения работы» и настроить вторичные программы ИИ для мониторинга поведения агента.

Агенты ИИ, возможно, даже в большей степени, чем чат-боты, предлагают технологическим компаниям возможность продемонстрировать все возможности искусственного интеллекта: сделать нашу повседневную жизнь проще. Однако при этом технология может усугубить некоторые из наших самых больших опасений по поводу того, что ИИ выйдет из-под контроля. Посмотрим, будет ли к этому готово общество.