Исследование: люди переносят гендерные стереотипы на взаимодействие с ИИ

Эксперимент с игрой «Дилемма заключённого». Автор: iScience (2025). DOI: 10.1016/j.isci.2025.113905

Люди переносят гендерные стереотипы на взаимодействие с искусственным интеллектом (ИИ), согласно новому исследованию Тринити-колледжа в Дублине и Мюнхенского университета имени Людвига и Максимилиана.

Исследование с участием 402 человек показало, что люди эксплуатируют ИИ с женскими метками и не доверяют ИИ с мужскими метками в той же степени, что и человеческим партнёрам с аналогичными гендерными обозначениями.

Примечательно, что в случае с ИИ, помеченным как женский, эксплуатация в системе «человек-ИИ» была даже более распространённой, чем с человеческими партнёрами с такими же гендерными метками.

Это первое исследование, в котором систематически и эмпирически изучается роль машинного гендера в сотрудничестве человека и ИИ.

Результаты показывают, что гендерные ожидания из взаимодействий «человек-человек» распространяются и на сотрудничество «человек-ИИ». По словам авторов, это имеет важные последствия для того, как организации проектируют, развёртывают и регулируют интерактивные системы ИИ.

Исследование, проведённое социологами Школы социальных наук и философии Тринити-колледжа, только что опубликовано в журнале iScience.

Ключевые выводы включают:

• Модели эксплуатации и недоверия к агентам ИИ повторяли те, что наблюдаются с человеческими партнёрами, несущими те же гендерные метки.
• Участники с большей вероятностью эксплуатировали агентов ИИ, помеченных как женские, и с большей вероятностью не доверяли агентам ИИ, помеченным как мужские.
• Присвоение гендера агентам ИИ может формировать сотрудничество, доверие и злоупотребление, что имеет последствия для дизайна продукта, развёртывания на рабочих местах и управления.

Сепиде Базази, первый автор исследования и приглашённый научный сотрудник Школы социальных наук и философии Тринити-колледжа, пояснила: «По мере того как ИИ становится частью повседневной жизни, наши выводы о том, что гендерные ожидания проникают в сотрудничество человека и ИИ, подчёркивают важность тщательного рассмотрения гендерного представления в дизайне ИИ, например, для максимизации вовлечённости людей и построения доверия в их взаимодействии с автоматизированными системами.

«Разработчики интерактивных агентов ИИ должны распознавать и смягчать предубеждения в человеческих взаимодействиях, чтобы предотвратить усиление вредной гендерной дискриминации и создавать заслуживающие доверия, справедливые и социально ответственные системы ИИ».

Таха Яссери, соавтор исследования и директор Центра социологии людей и машин (SOHAM) в Тринити-колледже, сказал: «Наши результаты показывают, что простое присвоение гендерной метки ИИ может изменить то, как люди относятся к нему. Если организации придают агентам ИИ человекообразные подсказки, включая гендер, они должны предвидеть последствия для доверия и сотрудничества».

Юргис Карпус, соавтор исследования и постдокторант Мюнхенского университета имени Людвига и Максимилиана, добавил: «Это исследование поднимает важную дилемму. Придание агентам ИИ человекообразных черт может способствовать сотрудничеству между людьми и ИИ, но оно также рискует перенести и усилить нежелательные существующие гендерные предубеждения из взаимодействий людей с другими людьми».

Подробнее об исследовании

В этом экспериментальном исследовании участники играли в повторяющиеся раунды социального эксперимента «Дилемма заключённого» — классического эксперимента в поведенческой игровой теории и экономике для изучения человеческого сотрудничества и предательства. Партнёры были помечены как человек или ИИ. Каждый партнёр дополнительно помечался как мужской, женский, небинарный или гендерно-нейтральный.

Команда проанализировала мотивы сотрудничества и предательства, различая эксплуатацию (использование преимущества сотрудничающего партнёра) и недоверие (превентивное предательство). Результаты показывают, что гендерная маркировка может воспроизводить гендерные модели сотрудничества с ИИ. Участники были набраны в Великобритании, эксперимент проводился онлайн. Размер выборки составил 402 участника.

Больше информации: Sepideh Bazazi et al, AI's assigned gender affects human-AI cooperation, iScience (2025). DOI: 10.1016/j.isci.2025.113905

Источник: Trinity College Dublin