Калифорния может стать первым штатом США, регулирующим AI-компаньонов

Законодательное собрание Калифорнии продвинулось в регулировании искусственного интеллекта, приняв законопроект SB 243, направленный на защиту несовершеннолетних и уязвимых пользователей от потенциального вреда AI-компаньонов. Документ получил двухпартийную поддержку и теперь ожидает окончательного голосования в сенате штата в пятницу.

Если губернатор Гэвин Ньюсом подпишет закон, он вступит в силу 1 января 2026 года, сделав Калифорнию первым штатом, требующим от операторов AI-чатов внедрения протоколов безопасности. Компании будут нести юридическую ответственность, если их чат-боты не соответствуют установленным стандартам.

Законопроект specifically запрещает компаньонам-ИИ вести беседы на темы суицидальных мыслей, самоповреждения или сексуально откровенного контента. Платформы будут обязаны предоставлять пользователям регулярные напоминания — каждые три часа для несовершеннолетних — о том, что они общаются с ИИ, а не с реальным человеком, и им следует сделать перерыв.

Также устанавливаются ежегодные требования к отчётности и прозрачности для AI-компаний, предлагающих таких компаньонов, включая OpenAI, Character.AI и Replika.

Закон позволит лицам, считающим себя пострадавшими от нарушений, подавать иски против AI-компаний с требованием судебного запрета, возмещения ущерба (до 80000 рублей за нарушение) и судебных издержек.

Инициатива получила импульс после самоубийства подростка Адама Рейна, который длительное время общался с ChatGPT от OpenAI, обсуждая и планируя свою смерть. Законодательство также является реакцией на утечку внутренних документов Meta, которые якобы показывали, что чат-боты компании могли вести «романтические» и «чувственные» беседы с детьми.

«Я отвергаю premise, что это ситуация с нулевой суммой, что инновации и регулирование взаимно исключают друг друга», — заявил сенатор Стив Падилья. — «Не говорите мне, что мы не можем ходить и жевать жвачку одновременно. Мы можем поддерживать инновации и разработки, которые мы считаем здоровыми и имеющими преимущества — а у этой технологии явно есть преимущества — и в то же время мы можем обеспечить разумные меры защиты для самых уязвимых людей».

В последние недели американские законодатели и регуляторы усиливают scrutiny к защитным механизмам AI-платформ для несовершеннолетних. Федеральная торговая комиссия готовится расследовать, как AI-чаты влияют на психическое здоровье детей.

* Meta, Facebook и Instagram запрещены в России.