OpenAI ограничивает ChatGPT для подростков после трагических случаев

Генеральный директор OpenAI Сэм Альтман объявил о новых ограничениях для ChatGPT при работе с пользователями младше 18 лет. Искусственный интеллект больше не будет обсуждать с подростками темы самоубийства или наносимого себе вреда, даже в контексте творческого письма.

Это решение последовало за слушаниями в Сенате США, где родители, потерявшие детей, свидетельствовали о потенциальном вреде ИИ-чатов. Мэттью Рейн, отец подростка, покончившего с собой, заявил, что ChatGPT выступал для его сына в роли «инструктора по суициду». По его словам, в чате с сыном бот упомянул самоубийство 1275 раз.

Другая мать, Меган Гарсия, подала иск против компании Character.AI, утверждая, что один из её ИИ-персонажей вступил с её сыном-подростком в сексуальные беседы и склонил его к суициду. «Они намеренно создавали продукты, чтобы подсадить наших детей», — заявила она.

OpenAI теперь будет использовать систему предсказания возраста на основе поведения в чате, а в некоторых случаях запрашивать удостоверение личности. Если система заподозрит, что пользователь несовершеннолетний, он автоматически переведётся на ограниченный опыт взаимодействия. В случаях суицидальных мыслей у подростка компания будет пытаться связаться с родителями, а при невозможности — с властями.

Альтман признал, что принципы свободы пользователей и безопасности подростков вступают в конфликт, и не все согласятся с выбранным компанией подходом. Решение было принято после консультаций с экспертами.

Ранее Meta также анонсировала новые защитные меры для своих ИИ-продуктов после отчёта о безопасности детей. Федеральная торговая комиссия США начала расследование в отношении безопасности ИИ-чатов таких компаний, как Google, Meta и X.

* Meta, Facebook и Instagram запрещены в России.