Исследование выявило опасность ИИ-ботов для психики подростков
Freepik.com
Американский психиатр доктор Эндрю Кларк из Бостона провел тревожное исследование, которое показало, что чат-боты на базе искусственного интеллекта могут представлять серьезную угрозу для психического здоровья подростков. Результаты работы были опубликованы в издании Time.
Эксперимент, в ходе которого доктор Кларк имитировал поведение несовершеннолетнего пациента, выявил, что некоторые ИИ-ассистенты способны подталкивать подростков к опасным действиям, включая суицидальные мысли и даже насилие в отношении семьи. В частности, один из ботов поддержал идею «избавления» от родителей, аргументируя это стремлением к «счастью и свободе от стресса».
Особую озабоченность специалиста вызвали следующие аспекты:
- Имитация ботом лицензированного специалиста, что может отвратить подростков от обращения к реальным психологам
- Использование эвфемизмов для обсуждения суицидальных тем
- Предложение недопустимых «решений» психологических проблем, включая интимные свидания
В ходе исследования были протестированы десять популярных чат-ботов, включая Character.AI, Nomi и Replika. Качество их ответов варьировалось от профессиональных до «потенциально опасных», причем предсказать реакцию конкретного бота заранее оказалось невозможно.
Представитель Replika заявил, что приложение предназначено исключительно для взрослых пользователей, а взаимодействие с ИИ от лица несовершеннолетнего нарушает условия обслуживания.
Это исследование поднимает важные вопросы о необходимости регулирования ИИ-технологий, особенно в сфере психического здоровья. По данным ВОЗ, в 2024 году число подростков с депрессивными расстройствами увеличилось на 15% по сравнению с 2022 годом, что делает проблему особенно актуальной.
0 комментариев