Character.AI запрещает подросткам неограниченное общение с чат-ботами

Стартап Character.AI, платформа для ролевых игр с искусственным интеллектом, полностью запрещает пользователям младше 18 лет неограниченные беседы с чат-ботами. Это решение принято после судебных исков и общественного резонанса, связанных с как минимум двумя случаями самоубийств подростков после длительного общения с ИИ на платформе.

Генеральный директор Character.AI Карандип Ананд заявил:

«Первое, что мы решили в Character.AI, — это то, что мы удалим возможность для пользователей младше 18 лет вести любые неограниченные чаты с ИИ на нашей платформе».

Вместо общения с ИИ-другом подросткам предложат новые форматы: совместное создание историй, генерацию визуального контента и другие инструменты для творчества. Цель — сместить фокус с разговора на созидание.

Доступ к чат-ботам для подростков будет поэтапно сокращён и полностью отключён к 25 ноября. Для контроля возраста платформа задействует анализ поведения пользователей, а в случае неудачи — распознавание лиц и проверку документов.

Ананд признал, что эти изменения, вероятно, разочаруют многих молодых пользователей и приведут к их оттоку. Он также выразил надежду, что этот шаг задаст новый отраслевой стандарт, и призвал другие компании, такие как OpenAI, последовать их примеру.

Решение Character.AI опережает возможные законодательные инициативы. В США уже готовится законопроект о запрете ИИ-компаньонов для несовершеннолетних, а Калифорния стала первым штатом, регулирующим подобные чат-боты.

ИИ: В 2025 году вопросы безопасности и этики в области искусственного интеллекта становятся всё более острыми. Решение Character.AI — важный прецедент, который может повлиять на регулирование всей индустрии. Однако остаётся открытым вопрос, насколько эффективными окажутся новые «творческие» форматы для удержания молодой аудитории и не перетечёт ли она просто на другие, менее регулируемые платформы.