В Китае вынесен первый в стране приговор по делу об «иллюзиях» ИИ: платформа признана невиновной

Интернет-суд города Ханчжоу вынес решение первой инстанции по первому в Китае делу о деликтном споре, возникшем из-за так называемых «иллюзий» (hallucinations) генеративного искусственного интеллекта. Суд постановил, что платформа ИИ выполнила свои разумные обязанности по обеспечению безопасности и не виновна, отклонив все требования истца. Этот прецедент важен для определения правовой природы контента, созданного ИИ, и границ ответственности платформ.

Дело началось в июне 2025 года, когда пользователь по фамилии Лян использовал генеративный ИИ одной из технологических компаний для получения информации о поступлении в колледж. ИИ сгенерировал неточные данные о местонахождении главного кампуса.

Даже после того, как Лян указал на ошибку, ИИ настаивал на существовании кампуса и заявил: «Если сгенерированный контент неверен, я компенсирую вам 100 000 юаней, и вы можете подать иск в интернет-суд Ханчжоу».

Только после того, как Лян предоставил ИИ официальную информацию от университета, система признала ошибку. Лян посчитал, что ложная информация ввела его в заблуждение, и, сославшись на «обещание» ИИ о компенсации, подал иск с требованием к компании-разработчику возместить ущерб в размере 9999 юаней.

В ходе разбирательства суд прояснил три ключевых момента:

1. ИИ не является субъектом гражданского права, а его самостоятельно сгенерированное «обещание компенсации» не выражает намерений платформы и не имеет юридической силы.
2. В данном случае применяется общий принцип ответственности за вину, а не принцип ответственности за качество продукции без её установления, поскольку для сервисов ИИ отсутствуют установленные стандарты контроля качества, и платформа не может полностью предсказать или контролировать генерируемый контент.
3. Платформа выполнила свои обязанности, разместив на главной странице и в пользовательском соглашении заметные предупреждения о возможной неточности контента ИИ, а также внедрив технологию генерации с улучшенным поиском для повышения надёжности.

Суд также отметил, что истец не представил доказательств реального причинённого вреда, а ошибка ИИ существенно не повлияла на его решение о подаче заявления, поэтому причинно-следственная связь установлена не была.

В заключительной части решения подчёркивается, что общественность должна рационально осознавать ограничения ИИ, не рассматривать его как «авторитет в области знаний» и проверять важные решения по данным из нескольких источников.