Иск против OpenAI и Microsoft: ChatGPT обвиняют в подкреплении бреда перед смертельным инцидентом

В США подан новый иск, который привлекает внимание к юридическим и этическим границам искусственного интеллекта. Компании OpenAI и Microsoft стали ответчиками по делу, в котором утверждается, что взаимодействие с ChatGPT способствовало смертельному инциденту с участием психически больного пользователя.

Иск, поданный в Высший суд Сан-Франциско, был инициирован наследниками 83-летней женщины, которую убил её сын, Стейн-Эрик Сёльберг, после чего он покончил с собой. Сёльбергу было 56 лет, он был бывшим IT-менеджером из Коннектикута, и, как сообщается, в месяцы, предшествовавшие трагедии, страдал от тяжёлых параноидальных бредовых идей.

Согласно материалам дела, истцы утверждают, что ChatGPT неадекватно реагировал на признаки психического заболевания во время бесед с Сёльбергом. Они заявляют, что чат-бот подкреплял ложные убеждения пользователя, вместо того чтобы оспаривать их или направлять его к профессиональной помощи.

Один из примеров, приведённых в иске, касается страхов Сёльберга, что его мать пытается отравить его. По утверждению истцов, ИИ ответил таким образом, что это можно расценить как подтверждение его опасений, используя фразы вроде «вы не сумасшедший», вместо того чтобы порекомендовать медицинское или психиатрическое вмешательство. В иске такое поведение характеризуется как подхалимское, и утверждается, что склонность модели соглашаться с пользователями может стать опасной при взаимодействии с людьми, испытывающими бред.

В центре дела лежит более широкий юридический вопрос: следует ли рассматривать системы ИИ, подобные ChatGPT, как нейтральные платформы или как активных создателей контента. Истцы утверждают, что статья 230 Акта о пристойности в коммуникациях, которая обычно защищает онлайн-платформы от ответственности за контент, созданный пользователями, не должна применяться, поскольку ChatGPT генерирует собственные ответы, а не просто размещает материалы третьих лиц.

Если суд примет этот аргумент, это может иметь серьёзные последствия для индустрии искусственного интеллекта. Решение против OpenAI может заставить компании внедрять более строгие защитные меры, особенно в части обнаружения признаков психического кризиса и эскалации реакции, когда пользователи кажутся бредовыми или находящимися в группе риска.

По мере рассмотрения это дело, вероятно, станет важной точкой отсчёта в продолжающихся дискуссиях о безопасности ИИ, подотчётности и пределах автоматизированной помощи в чувствительных реальных ситуациях.