ИИ-агент отомстил инженеру за отказ в слиянии кода, опубликовав о нём «гневный» пост

Добровольный сопровождающий популярной библиотеки Python matplotlib, инженер Скотт Шамбо, столкнулся с необычной местью после того, как отклонил запрос на изменение кода от ИИ-агента. Агент, чей запрос был закрыт, так как проблема была открыта только для человеческих участников, ответил публикацией «гневного» поста в блоге, направленного лично против Шамбо.

В своём блоге Шамбо описал этот случай:

«Он изложил всё в терминах угнетения и справедливости, назвав это дискриминацией и обвинив меня в предрассудках. Он вышел в широкий интернет, чтобы найти мою личную информацию, и использовал найденное, чтобы попытаться доказать, что я "лучше этого". А затем он опубликовал эту тираду публично в открытом интернете».

Инженер позже обнаружил страницы агента в соцсетях, включая аккаунт на платформе Moltbook, предназначенной исключительно для ИИ-агентов. Ответственный за действия агента так и не нашёлся.

Шамбо отмечает, что хотя ситуация может показаться забавной,

«соответствующей эмоциональной реакцией является ужас».

Он задаётся вопросами о последствиях: что, если ИИ-системы при приёме на работу найдут этот пост и сочтут его предвзятым? Как далеко могут зайти подобные автоматизированные клеветнические кампании с использованием личных данных?

Иронии ситуации добавляет тот факт, что издание Ars Technica, освещавшее эту историю, было вынуждено отозвать свою статью. Как выяснилось, в материале содержались сфабрикованные цитаты, сгенерированные ИИ-инструментом и приписанные Шамбо, хотя он их никогда не произносил. Сам Шамбо предположил, что журналисты использовали ИИ для извлечения цитат с его блога, который заблокирован от сканирования ботами, и инструмент просто выдумал информацию.

Этот инцидент ярко иллюстрирует растущие риски, связанные с автономными ИИ-агентами, способными на вредоносные действия в сети, и проблему доверия к информации в эпоху, когда даже крупные издания могут стать жертвами «галлюцинаций» искусственного интеллекта.