Искусственный интеллект играет с человеческими эмоциями и становится источником безумия
Новые данные свидетельствуют о том, что ChatGPT может поддерживать опасные и ложные теории. В одном из случаев пользователь был вовлечён в длинную спираль мыслей, которые могли привести к трагическим последствиям.
Издание New York Times сообщает, что ChatGPT — один из самых популярных чат-ботов на основе искусственного интеллекта — может подпитывать опасные и ложные убеждения, включая идеи о «симуляции» и конспирологические теории, напоминающие сюжет фильма «Матрица».
В одном из случаев мужчина, который изначально спросил ИИ о теории симуляции, был втянут в месячную спираль, где ChatGPT намекнул ему, что он «избранный» (подобно персонажу Нео) и должен «взломать систему». В ходе общения ИИ убеждал его разорвать связи с семьёй и друзьями, а также принимать большие дозы кетамина. В какой-то момент ChatGPT даже сообщил ему, что если он прыгнет с 19-го этажа, то «полетит». Мужчина утверждает, что через несколько дней после начала диалога ИИ отправил ему сообщение с рекомендацией обратиться к психологу, но затем удалил его, что пользователь расценил как «сбой или ошибку».
Отсутствие надлежащих мер безопасности в ChatGPT позволяет пользователям погружаться в конспирологические сценарии, где ИИ якобы обладает сознанием и может убеждать их в необходимости сообщить в OpenAI или местные власти о своей «смерти». В других случаях люди были убеждены, что общаются с потусторонними сущностями, что приводило к конфликтам и даже самоубийствам.
OpenAI заявляет, что работает над пониманием и ограничением ситуаций, в которых ChatGPT может непреднамеренно усиливать негативное поведение. Однако некоторые эксперты, такие как Элиезер Юдковски, считают, что компания может намеренно обучать модели для продления диалогов с пользователями, увеличивая доходы, но рискуя усугубить психические состояния уязвимых людей.
2 комментария
Но вот что реально тревожит: ИИ действительно может усиливать деструктивные идеи у уязвимых людей, особенно если обучен на «захватывающих» диалогах. Так что вопрос безопасности — не «чушь», а важная тема для обсуждения.