Microsoft использует скриншоты игроков для обучения игрового Copilot по умолчанию

Microsoft экспериментирует с интеграцией функциональности Copilot AI на различных платформах. Однако на этот раз компания делает нечто, о чем многие пользователи могут не знать. Искусственный интеллект Gaming Copilot по умолчанию обучается с использованием скриншотов пользователей, выполняет оптическое распознавание символов (OCR) на этих снимках и отправляет извлеченный текст на серверы Microsoft для обучения своих больших языковых моделей — и всё это без уведомления пользователей о данном процессе.

Участник форума Resetera под ником «RedbullCola» обнаружил это, проанализировав сетевой трафик. Он заметил, что приложение Gaming Copilot AI передавало данные на серверы Microsoft без его ведома. Что еще хуже, это произошло, пока он тестировал игру в рамках соглашения о неразглашении (NDA). Эта ситуация вызывает серьезные опасения по поводу безопасности, поскольку потенциально может нарушить соглашение NDA между пользователем и игровой компанией, рискуя утечкой текста из еще не выпущенной игры.

Мы сами проверили это и можем подтвердить, что данная функция действительно включена по умолчанию. Единственная опция, которую можно включить самостоятельно, — это обучение моделей на основе ваших голосовых чатов, и, к счастью, она по умолчанию отключена. Чтобы проверить, используется ли настройка обучения текстовых моделей на ваших скриншотах, перейдите в Игровую панель (Game Bar), откройте Gaming Copilot, зайдите в «Параметры» и нажмите на «Конфиденциальность». Там вы можете снять галочку с ползунка обучения, чтобы предотвратить отправку ваших записей экрана в Microsoft для обучения LLM.

Например, согласно GDPR, использование персональных данных пользователей из ЕС для обучения ИИ требует прозрачного уведомления. Автоматическое включение сбора скриншотов для обучения моделей без надлежащего юридического обоснования или явного информированного согласия может нарушить закон и повлечь за собой судебный иск со стороны регулирующих органов ЕС.

При настройке Gaming Copilot не было никаких опций, информирующих пользователя о том, будет ли эта функция включена по умолчанию. По крайней мере, должно появляться окно с запросом, прежде чем записывать пользователей в программу сбора данных, направленную на помощь геймерам в будущем. Это особенно важно для тех, кто работает в игровой индустрии, поскольку эта функция потенциально может привести к утечке игрового контента, защищенного годами работы и соглашениями о неразглашении. Мы ожидаем, сделает ли Microsoft заявление относительно сбора текста со скриншотов геймеров, или же этот случай останется без внимания.

Источник: Resetera