OpenAI и Google вводят ограничения для чат-ботов

В США рассматривается законопроект GUARD Act, который может запретить использование чат-ботов с искусственным интеллектом лицам младше 18 лет. Платформы будут обязаны проводить строгую проверку возраста пользователей, например, через предоставление документа, подтверждающего совершеннолетие.

Инициатива появилась после серии громких скандалов о влиянии чат-ботов на детей и подростков. OpenAI недавно сообщила, что более миллиона человек еженедельно обсуждают с ChatGPT темы, связанные с суицидальными мыслями.

Согласно новым правилам, чат-боты также должны будут регулярно (каждые полчаса) напоминать пользователям, что они не являются реальными людьми. Исследования показывают, что молодые люди склонны формировать с ИИ ложные эмоциональные связи, что может приводить к опасным ситуациям.

За нарушение новых правил предусмотрены строгие штрафы. Не все эксперты согласны с таким подходом — некоторые считают, что вместо тотальных запретов более эффективными были бы улучшенный контроль и защитные механизмы.