Microsoft собирает скриншоты игр для обучения Copilot без уведомления пользователей

Microsoft продолжает экспериментировать с интеграцией искусственного интеллекта Copilot в различные платформы. Однако на этот раз компания делает нечто, о чем многие пользователи могут не подозревать. Игровой Copilot AI по умолчанию обучается с помощью скриншотов пользователей, выполняет оптическое распознавание текста на снимках экрана и отправляет извлеченный текст на серверы Microsoft для обучения своих больших языковых моделей — и все это без уведомления пользователей о данном процессе.

Участник форума Resetera под ником «RedbullCola» обнаружил это при анализе сетевого трафика, заметив, что приложение Gaming Copilot AI передавало данные на серверы Microsoft без его ведома. Что еще хуже, это произошло, пока он тестировал игру под соглашением о неразглашении (NDA). Эта ситуация вызывает серьезные опасения в области безопасности, поскольку потенциально может нарушить соглашение NDA между пользователем и игровой компанией, рискуя привести к утечке текста из еще не выпущенной игры.

Мы самостоятельно проверили эту информацию и можем подтвердить, что функция действительно включена по умолчанию. Единственная опция, которую можно включить самостоятельно — это обучение моделей на основе ваших голосовых чатов, и, к счастью, она по умолчанию отключена. Чтобы проверить, используется ли настройка обучения текстовых моделей на ваших скриншотах, перейдите в Игровую панель (Game Bar), откройте Gaming Copilot, зайдите в Настройки и нажмите на Конфиденциальность. Там вы можете снять галочку с ползунка обучения, чтобы предотвратить отправку ваших записей экрана в Microsoft для обучения LLM.

Например, согласно GDPR, использование персональных данных пользователей из ЕС для обучения ИИ требует прозрачного уведомления. Автоматическое включение сбора скриншотов для обучения моделей без надлежащего юридического обоснования или явного информированного согласия может нарушить закон и привести к судебному иску со стороны регулирующих органов ЕС.

При настройке Gaming Copilot не было никаких опций, информирующих пользователя о том, будет ли эта функция включена по умолчанию. Должен быть хотя бы экран, который запрашивает согласие пользователей перед их включением в программу сбора данных, направленную на помощь геймерам в будущем. Это особенно важно для тех, кто работает в игровой индустрии, поскольку эта функция потенциально может привести к утечке игрового контента, защищенного годами работы и соглашениями о неразглашении. Мы ожидаем, сделает ли Microsoft заявление относительно сбора текста со скриншотов геймеров, или этот вопрос останется без внимания.

Источник: Resetera