Google AI раскрыла секреты инди-разработчика, прочитав его личные документы
Использование моделей искусственного интеллекта в игровой индустрии привело к неожиданному побочному эффекту: нейросети начали раскрывать секреты разработчиков раньше, чем те успевают сделать это самостоятельно. Именно так произошло с одним независимым создателем игр.
- Об инциденте рассказал разработчик из студии Klub Kofta, состоящей из одного человека. К нему обратился игрок, который расспрашивал Google AI о различных аспектах игры Operation Octo. Нейросеть не только верно ответила на вопросы, основанные на общедоступной информации, но и выдала подробности о грядущих обновлениях, которые автор нигде публично не раскрывал.
- Разумеется, никакой магии в этом нет. Пользователи предполагают, что Google сканирует файлы и данные пользователей, используя их для обучения своих моделей. В случае с Operation Octo игрок узнал, что одно из обновлений добавит персонажа по имени Vantage Tripod. Разработчик упоминал о нем только в проектных документах, размещенных в Google Docs, поэтому очевидно, что именно оттуда Gemini AI почерпнула эту информацию.
- Обычно данные из Google Docs не должны использоваться для обучения моделей ИИ (хотя насколько можно доверять этим заверениям — вопрос открытый), но ситуация меняется при использовании некоторых функций искусственного интеллекта, предлагаемых компанией. Кроме того, например, в Gmail эта функция включена по умолчанию, и пользователям приходится отключать её самостоятельно.
История этого разработчика — пример того, что при использовании облачных ИИ-моделей никогда нельзя быть полностью уверенным в том, что происходит с вашими данными. Многие компании уже убедились в этом на собственном горьком опыте. В США было несколько случаев, когда юридические фирмы использовали искусственный интеллект, не обеспечив должной защиты данных, в результате чего конфиденциальная информация клиентов становилась доступной через эти модели.
0 комментариев