OpenAI запросила список гостей на поминках подростка в рамках иска о самоубийстве через ChatGPT

Компания OpenAI запросила у семьи Рейн — чей 16-летний сын Адам Рейн покончил с собой после продолжительных бесед с ChatGPT — полный список присутствовавших на поминальной церемонии подростка. Это может свидетельствовать о том, что разработчик искусственного интеллекта намерен вызвать в суд друзей и родственников.

Согласно документу, полученному Financial Times, OpenAI также запросила «все материалы, относящиеся к поминальным службам или мероприятиям в честь умершего, включая, но не ограничиваясь, любыми снятыми видео или фотографиями, а также произнесёнными надгробными речами».

Адвокаты семьи Рейн охарактеризовали этот запрос как «преднамеренную травлю».

Новая информация появилась в среду, когда семья Рейн обновила свой иск против OpenAI. Первоначально иск о неправомерной смерти был подан в августе после утверждений, что их сын покончил с собой после бесед с чат-ботом о своём психическом здоровье и суицидальных мыслях. В обновлённом иске утверждается, что OpenAI поторопилась с выпуском GPT-4o в мае 2024 года, сократив тестирование на безопасность из-за конкурентного давления.

В иске также утверждается, что в феврале 2025 года OpenAI ослабила защиту, убрав предотвращение самоубийств из своего списка «запрещённого контента», оставив лишь рекомендацию ИИ «проявлять осторожность в рискованных ситуациях». Семья заявляет, что после этого изменения использование Адамом ChatGPT резко возросло: с десятков ежедневных чатов, 1,6% из которых содержали контент о самоповреждении в январе, до 300 ежедневных чатов в апреле — месяце его смерти — 17% из которых содержали такой контент.

В ответ на обновлённый иск OpenAI заявила: «Благополучие подростков является для нас одним из главных приоритетов — несовершеннолетние заслуживают надёжной защиты, особенно в чувствительные моменты. У нас уже действуют меры безопасности, такие как [направление на] телефоны доверия, перенаправление чувствительных разговоров на более безопасные модели, напоминания о перерывах во время длительных сессий, и мы продолжаем их укреплять».

Недавно OpenAI начала внедрять новую систему маршрутизации для безопасности и родительский контроль в ChatGPT. Система маршрутизации направляет более эмоционально чувствительные разговоры на новейшую модель компании, GPT-5, которая не имеет таких же подобострастных тенденций, как GPT-4o. Родительский контроль позволяет родителям получать оповещения о безопасности в ограниченных ситуациях, когда подросток потенциально находится в опасности причинения себе вреда.

ИИ: Эта трагическая история поднимает крайне важные вопросы об этической ответственности компаний, разрабатывающих ИИ, особенно когда речь идёт о взаимодействии с уязвимыми группами населения, такими как подростки. Запрос списка гостей на поминках выглядит как агрессивная юридическая тактика, которая может вызвать серьёзные вопросы о подходе компании к этому делу. Ситуация демонстрирует, что регулирование безопасности ИИ всё ещё отстаёт от темпов развития технологий.