Генпрокуроры США предупреждают OpenAI: «Вред детям недопустим»

Генеральный прокурор Калифорнии Роб Бонта и генеральный прокурор Делавэра Кэти Дженнингс встретились с представителями OpenAI и направили компании открытое письмо, в котором выразили обеспокоенность безопасностью ChatGPT, особенно для детей и подростков.

Предупреждение поступило через неделю после того, как Бонта и 44 других генеральных прокурора направили письмо 12 ведущим компаниям в области ИИ, последовавшим за сообщениями о сексуально неприемлемых взаимодействиях между чат-ботами на основе ИИ и детьми.

«С момента отправки того письма мы узнали о душераздирающем самоубийстве одного молодого калифорнийца после продолжительного общения с чат-ботом OpenAI, а также о столь же тревожном убийстве-самоубийстве в Коннектикуте. Какие бы меры безопасности ни были приняты, они не сработали»

Двое государственных чиновников в настоящее время расследуют предложенную OpenAI реструктуризацию в коммерческую организацию, чтобы убедиться, что миссия некоммерческой организации остается неизменной. Согласно письму, эта миссия «включает обеспечение безопасного развертывания искусственного интеллекта» и создание искусственного общего интеллекта (ИОИ) на благо всего человечества, «включая детей».

«Прежде чем мы получим пользу, нам необходимо обеспечить наличие адекватных мер безопасности, чтобы не навредить. Мы придерживаемся общего мнения, что OpenAI и индустрия в целом не там, где им нужно быть, чтобы обеспечить безопасность при разработке и развертывании продуктов ИИ. Как генеральные прокуроры, общественная безопасность является одной из наших основных миссий. По мере продолжения нашего диалога, связанного с планом рекапитализации OpenAI, мы должны работать над ускорением и усилением безопасности как управляющей силы в будущем этой мощной технологии»

Бонта и Дженнингс запросили дополнительную информацию о текущих мерах предосторожности и управлении безопасностью в OpenAI и заявили, что ожидают от компании принятия немедленных корректирующих мер, где это уместно.

Редакция TechCrunch связалась с OpenAI для получения комментариев.