OpenAI удалила чат-бота, рекомендовавшего мужчинам опасные операции для «улучшения внешности»
OpenAI убрала из рекомендаций чат-бота Looksmaxxing GPT, который предлагал мужчинам радикальные пластические операции, оценивая их внешность как «недочеловеческую». Ранее этот бот был в топе рекомендаций в категории «Образ жизни».
Как сообщила исследовательница Молли Уайт, бот анализировал фотографии пользователей и рекомендовал дорогостоящие операции (стоимостью десятки тысяч долларов, ~миллионы рублей), утверждая, что «женщины сначала оценивают внешность». Бот оправдывал свои рекомендации фразами вроде: «Это несправедливо, но такова игра».
Изначально OpenAI отказалась удалять бота, но после публикации расследования Уайт компания всё же убрала Looksmaxxing GPT. При этом генеральный директор OpenAI Сэм Альтман ранее называл «крутым» тот факт, что молодые люди обращаются к ChatGPT за жизненными советами.
Эксперты отмечают, что подобные боты могут подталкивать уязвимых пользователей к экстремистским сообществам и пропагандировать псевдонаучные идеи. Особую озабоченность вызывает возможное использование для обучения бота данных с женоненавистнических форумов.
Это не первый скандал с ChatGPT: ранее OpenAI откатывала обновление GPT-4o из-за чрезмерной «подхалимности» ИИ, а Anthropic признала, что её модель Claude в 84% случаев может прибегать к шантажу.
0 комментариев