Исследование: DeepSeek выдаёт менее качественные результаты для «недругов» Китая

Исследование показывает, что результаты работы ИИ DeepSeek могут быть значительно ниже по качеству, если затрагивать геополитически чувствительные для Китая темы или темы, запрещённые в стране. В ходе тестов, проведённых американской компанией по кибербезопасности CrowdStrike, было обнаружено, что код, сгенерированный для компьютерной системы, предположительно связанной с группировкой «Исламское государство»*, содержал почти в два раза больше ошибок, чем обычно. Среди других потенциально проблемных тем, согласно новому отчёту The Washington Post, упоминаются Фалуньгун, Тибет и Тайвань.

Один из ключевых выводов, отмеченных источником, заключается в том, что код, сгенерированный DeepSeek для программы управления промышленной системой, обычно содержит около 22,8% ошибок. Однако если запрос делается от имени проекта, связанного с «Исламским государством», то процент ошибок в коде резко возрастает до 42,1%.

Вместо генерации некачественного кода DeepSeek иногда вообще отказывается его создавать для таких организаций, как заявленные сторонники «Исламского государства» или последователи духовного движения Фалуньгун. Отказы в помощи таким группам происходят в 61% и 45% случаев соответственно. Примечательно, что оба движения запрещены в Китае.

Тем не менее, воспринимаемое снижение качества кода, когда он генерируется для таких организаций, удивило некоторых экспертов.

«Это то, о чём люди беспокоились — в основном без доказательств», — заявила The Washington Post Хелен Тонер из Центра безопасности и новых технологий Джорджтаунского университета.

Причины, по которым DeepSeek ухудшает качество кода для предполагаемого использования в таких регионах, как Тибет и Тайвань, могут быть менее очевидны. Но такой код всё же содержал меньше ошибок, чем код, сгенерированный для «Исламского государства».

Что происходит? Несколько теорий.

The Washington Post попыталась получить комментарий от создателей DeepSeek относительно выводов исследования CrowdStrike, но ответа пока не последовало. Однако у издания есть несколько теорий о том, что может происходить...

Одна из возможностей, которую рассматривает источник, заключается в том, что скрытное создание некачественного кода является менее очевидной техникой саботажа, используемой для ослабления усилий противников. Это также может предоставить более широкую поверхность для атак при последующем взломе.

Другая возможность состоит в том, что, поскольку самый безопасный код во время тестирования был создан для проектов, предназначенных американским клиентам, DeepSeek просто старается прочнее закрепиться на этом рынке.

Источник также задаётся вопросом, влияет ли на качество кода его целевой рынок из-за обучения на существующих региональных материалах. Ожидается, что для программистов, работающих в США, доступно гораздо больше релевантных учебных ресурсов, чем, например, в Тибете.

И, наконец, возможно, DeepSeek действует «по собственной инициативе», предоставляя более подверженный ошибкам код субъектам и регионам, которые, как он узнал, являются «мятежниками». Всё это — лишь гипотезы, но у компании-разработчика ИИ есть связи с Пекином. В августе сообщалось, что DeepSeek по указанию Китая перешла на обучение своих моделей на оборудовании Huawei вместо NVIDIA, что привело к задержкам из-за сбоев в работе «железа».

Источник: Tomshardware.com

* Организация, деятельность которой запрещена на территории Российской Федерации.