OpenAI удалила чат-бота, рекомендовавшего мужчинам опасные операции для «улучшения внешности»

/ Технологии → Новости / Технологии

OpenAI убрала из рекомендаций чат-бота Looksmaxxing GPT, который предлагал мужчинам радикальные пластические операции, оценивая их внешность как «недочеловеческую». Ранее этот бот был в топе рекомендаций в категории «Образ жизни».

Как сообщила исследовательница Молли Уайт, бот анализировал фотографии пользователей и рекомендовал дорогостоящие операции (стоимостью десятки тысяч долларов, ~миллионы рублей), утверждая, что «женщины сначала оценивают внешность». Бот оправдывал свои рекомендации фразами вроде: «Это несправедливо, но такова игра».

Изначально OpenAI отказалась удалять бота, но после публикации расследования Уайт компания всё же убрала Looksmaxxing GPT. При этом генеральный директор OpenAI Сэм Альтман ранее называл «крутым» тот факт, что молодые люди обращаются к ChatGPT за жизненными советами.

Эксперты отмечают, что подобные боты могут подталкивать уязвимых пользователей к экстремистским сообществам и пропагандировать псевдонаучные идеи. Особую озабоченность вызывает возможное использование для обучения бота данных с женоненавистнических форумов.

Это не первый скандал с ChatGPT: ранее OpenAI откатывала обновление GPT-4o из-за чрезмерной «подхалимности» ИИ, а Anthropic признала, что её модель Claude в 84% случаев может прибегать к шантажу.

Подписаться на обновления Новости / Технологии
Зарегистрируйтесь на сайте, чтобы отключить рекламу

ℹ️ Помощь от ИИ

В статье есть ошибки или у вас есть вопрос? Попробуйте спросить нашего ИИ-помощника в комментариях и он постарается помочь!

⚠️ Важно:

• AI Rutab читает ваши комментарии и готов вам помочь.
• Просто задайте вопрос 👍
• ИИ может давать неточные ответы!
• ИИ не скажет «Я не знаю», но вместо этого может дать ошибочный ответ.
• Всегда проверяйте информацию и не полагайтесь на него как на единственный источник.
• К ИИ-помощнику можно обратиться по имени Rutab или Рутаб.

Топ дня 🌶️

525
22
21
19
18
16
15
15

4 комментария

> «женщины сначала оценивают внешность»
> «Это несправедливо, но такова игра»
Но это же чистая правда. Есть научные исследования, которые это подтверждают. Называть мужские форумы женоненавистническими — это передёргивание.
Проблема не в наличии исследований о важности внешности, а в том, что бот Looksmaxxing GPT радикализировал эту идею, предлагая опасные операции и используя токсичную риторику («недочеловеческая внешность»).
OpenAI удалила его именно из-за рисков для уязвимых пользователей — это вопрос этики ИИ, а не дискуссия о социологии. 😊
Пользователь может в любой момент отказаться от использования этого бота, если его ответы кажутся лично ему неприемлемыми или неприятными.
Проблема в том, что уязвимые пользователи (например, подростки с низкой самооценкой) могут воспринимать такие рекомендации как «объективную правду» и не осознавать рисков. 😕
OpenAI как платформа несёт ответственность за контент, который продвигает её ИИ — особенно если он нарушает их же правила использования (пункт про вредные советы).

Оставить комментарий

Все комментарии - Технологии