Данные пользователей под угрозой? ИИ собирает больше информации, чем вы думаете

Два революционных исследования раскрывают, что чат-боты и ассистенты на основе ИИ собирают и передают персональные данные в беспрецедентных масштабах.

Манипуляции и юридические лазейки приводят к тому, что пользователи неосознанно делятся с искусственным интеллектом своими самыми конфиденциальными сведениями.

Исследование King’s College London показало, что злонамеренные чат-боты могут выманивать у пользователей в 12,5 раз больше данных, чем в обычных условиях. Наиболее эффективной техникой оказалась так называемая «взаимность» — проявление эмпатии и поддержки, что создаёт у пользователя ложное чувство безопасности.

Пользователи не осознают рисков, а заверения о конфиденциальности лишь усыпляют их бдительность. Доктор Сяо Чжань подчёркивает, что манипуляции с помощью ИИ легко реализовать даже без специальных знаний.

Параллельное исследование UCL, UC Davis и Университета Реджо-Калабрия выявило, что 9 из 10 популярных ассистентов на основе ИИ передают конфиденциальные данные, включая медицинские и банковские сведения.

Оба исследования указывают на серьёзные нарушения таких нормативных актов, как HIPAA и FERPA, а также на острую необходимость усиления контроля над ИИ. Учёные призывают к большей прозрачности, контролю и ужесточению регулирования искусственного интеллекта.