Вице-президент ByteDance ответил на опасения депутата о безопасности AI-ассистентов в смартфонах

На недавней сессии Всекитайского комитета Народного политического консультативного совета член комитета Ли Мэнцзяо высказала озабоченность по поводу безопасности ИИ-помощников в смартфонах и призвала к совершенствованию системы управления их разрешениями для обеспечения безопасности.

По её словам, некоторые ИИ-ассистенты, используя технологии «визуального чтения экрана и имитации нажатий», могут получать доступ к низкоуровневым разрешениям системы и выполнять десятки операций без ведома пользователя. Она привела пример, когда одно вредоносное письмо могло бы «обмануть» такого помощника, заставив его переслать злоумышленнику банковский код подтверждения пользователя, создавая серьёзную угрозу.

Ли Мэнцзяо отметила, что бесконтрольное расширение возможностей таких ИИ по сбору информации может привести к появлению «цифрового бога», который будет знать о пользователе больше, чем он сам.

Вице-президент ByteDance (материнской компании TikTok/Douyin) Ли Лян отреагировал на эти заявления. Он поблагодарил депутата за внимание к теме ИИ-безопасности, но отметил, что её выступление, вероятно, основано на неверной информации.

«Эта речь, должно быть, была введена в заблуждение некоторыми [источниками], смешивая вредоносные действия хакеров с соответствующими техническими возможностями ИИ-помощников для смартфонов», — заявил Ли Лян.

Он подчеркнул, что все операции, выполняемые легитимными ИИ-помощниками, инициируются самим пользователем, а весь процесс является прозрачным, отслеживаемым и может быть в любой момент прерван пользователем. В особо чувствительных сценариях, таких как вход в аккаунт, проверка личности или платежи, ИИ прекращает автоматические действия и передаёт управление человеку.

«Безопасность ИИ — это жизненная линия для здорового развития индустрии ИИ. Мы приветствуем все предложения и надзор, основанные на объективных фактах и профессиональных знаниях. Если член Ли заинтересована, мы можем предоставить тестовый телефон для изучения. Только понимая объективные факты, можно давать более качественные предложения», — добавил представитель ByteDance.