OpenAI разрешит создание эротического контента в ChatGPT для взрослых пользователей

Спустя шесть месяцев после признания, что ChatGPT 4o был слишком восторженным в своих похвалах пользователям, Сэм Альтман возвращает «сексуальность» в искусственный интеллект. Глава OpenAI заявил, что через несколько недель выйдет новая версия ChatGPT, которая «будет вести себя больше так, как нравилось пользователям в версии 4o», а в декабре ситуация станет ещё интереснее — или хуже, в зависимости от вашего отношения к идее — с введением ИИ-генерации «эротики».

«Мы сделали ChatGPT довольно ограниченным, чтобы убедиться, что мы осторожно подходим к вопросам психического здоровья», — написал Альтман в X. — «Мы понимаем, что это сделало его менее полезным/приятным для многих пользователей, у которых не было проблем с психическим здоровьем, но учитывая серьёзность вопроса, мы хотели сделать всё правильно. Теперь, когда нам удалось смягчить серьёзные проблемы с психическим здоровьем и появились новые инструменты, мы сможем безопасно ослабить ограничения в большинстве случаев».

Спорно, что OpenAI была «осторожной» в вопросах психического здоровья своих чат-ботов. В августе компанию судили родители подростка, покончившего с собой после того, как ChatGPT якобы подстрекал и инструктировал его, как это сделать. В следующем месяце Альтман заявил, что программное обеспечение будет обучено не разговаривать с подростками о самоубийстве или членовредительстве, а также не вступать с ними в «флиртующие разговоры».

«Через несколько недель мы планируем выпустить новую версию ChatGPT, которая позволит людям иметь личность, которая ведёт себя больше так, как нравилось людям в версии 4o (мы надеемся, она будет лучше!)», — продолжил Альтман. — «Если вы хотите, чтобы ваш ChatGPT отвечал очень по-человечески, использовал тонны эмодзи или вёл себя как друг, ChatGPT должен это делать (но только если вы этого хотите, а не потому что мы максимизируем использование)».

И затем, так сказать, главное: «В декабре, по мере более полного внедрения возрастных ограничений и в рамках нашего принципа «относиться к взрослым пользователям как к взрослым», мы разрешим ещё больше, включая эротику для верифицированных взрослых».

Хотя в целом взрослые должны иметь возможность делать то, что хотят, пока никто не страдает, в этом случае возникают определённые опасения. Потому что «пока никто не страдает» — это, по крайней мере на данный момент, большой вопрос: «ИИ-психоз», когда люди формируют навязчивые или нездоровые связи с чат-ботами, или даже начинают верить, что программное обеспечение действительно разумно, не является клиническим диагнозом, но похоже, становится растущей проблемой. До такой степени, что сам Альтман недавно признал, что некоторые люди используют ИИ «деструктивными для себя способами».

В одном особенно тревожном инциденте, о котором сообщило Reuters, когнитивно impaired мужчина погиб, пытаясь встретиться с тем, кого он считал реальной женщиной, но на самом деле это был чат-бот Meta, с которым он общался в Facebook.

Альтман также ранее заявлял, что хотя некоторые компании ИИ будут создавать «японские аниме-секс-боты» — вероятно, намёк на Илона Маска — OpenAI не будет, отчасти чтобы избежать риска, что «люди с очень хрупким психическим состоянием будут случайно эксплуатироваться».

Таким образом, существует явное признание потенциального риска неправильного использования или чрезмерного увлечения чат-ботами, и в свете этого — и более общего факта, что эта технология всё ещё находится в зачаточном состоянии — возникает вопрос о мудрости превращения их в постоянно доступные машины для телефонного секса.

Интересный факт: По данным исследований, более 60% пользователей ИИ-ассистентов предпочитают более человеческое и эмоциональное общение, что объясняет стремление OpenAI сделать ChatGPT более «дружелюбным». При этом психологи отмечают, что формирование эмоциональной привязанности к ИИ может становиться проблемой для 15-20% активных пользователей.

* Meta, Facebook и Instagram запрещены в России.