Arcee: китайские модели ИИ не опаснее любого другого открытого ПО

Американская лаборатория с открытым исходным кодом Arcee заявила, что китайские модели ИИ не представляют собой неотъемлемой угрозы безопасности.

По мере роста возможностей и популярности китайских моделей с открытыми весами, споры о том, что с ними делать, вновь накалились до предела. Ходят разговоры о том, что администрация Трампа может попытаться запретить их, хотя пока никаких действий предпринято не было. В то же время, создатели проприетарных моделей, особенно OpenAI и Anthropic, выражают растущую обеспокоенность.

Такие модели с открытыми весами, как Kimi K3 от Moonshot AI или Qwen от Alibaba, предлагают инференс по цене, составляющей лишь долю стоимости токенов закрытых моделей крупных американских лабораторий. Опасения заключаются в том, что они также несут некую угрозу. Безусловно, они угрожают норме прибыли крупных проприетарных ИИ-лабораторий.

Но стоит ли предприятиям, использующим эти модели в собственных центрах обработки данных, поддаваться страху, что они могут стать вектором для китайских хакеров?

Нет, считает Лукас Аткинс, технический директор Arcee, которая создает открытые модели, чтобы предоставить американским компаниям отечественную альтернативу китайским моделям.

Если бы какой-либо стартап выиграл от запрета китайских моделей, то это была бы Arcee. Однако Аткинс утверждает, что открытые модели из Китая не более опасны, чем любое другое программное обеспечение с открытым исходным кодом, которое может использовать компания. Более того, по его словам, они даже приносят пользу его собственной компании.

«Многие рассматривают это как аналогию с китайской программой. Мол, она была написана с такими-то и такими-то намерениями», — сказал он, имея в виду, что злоумышленник мог бы просто отдавать ей команды.

«В корне не так обучаются эти модели. На самом деле нет никакого способа для Arcee, Alibaba или кого-либо еще создать модель, позволить кому-то запустить ее в своей собственной среде и получить к ней какой-либо доступ», — объяснил он.

Хотя большинство этих моделей являются так называемыми моделями с «открытыми весами» и не являются полностью программным обеспечением с открытым исходным кодом, исходный код (та часть, которая будет фактически выполняться на серверах), если он загружен с сайтов открытого кода, таких как Hugging Face, в значительной степени видим и поддается проверке. (Недоступными остаются методы и данные, использованные для обучения моделей.)

Крупные организации должны проверять любую базовую модель в рамках своих процессов обеспечения безопасности и инспекции. Они также часто дообучают модели для своих конкретных нужд и могут проверять такие аспекты, как предвзятость, токсичность, галлюцинации и чувствительность к определенным темам. Таким образом, они работают с моделями, оптимизируют и понимают их, прежде чем люди начнут отправлять им запросы.

Может ли модель, используемая для написания кода, каким-либо образом внедрить вредоносные бэкдоры в создаваемый ею код? Опять же, хотя теоретически это возможно, для этого потребовались бы акробатические трюки.

«Нет причин, по которым достаточно искушенный злоумышленник не мог бы обучить модель быть полностью выдающейся моделью для кодирования в любых обстоятельствах, но при предъявлении определенного типа кодовой базы... сработало бы некое скрытое обучение», — предположил Аткинс, который проводит свои дни, обучая модели. Но он добавляет: «Я не знаю, как это можно было бы сделать».

Поскольку большие языковые модели по своей природе креативны, вероятность того, что современная модель выдаст вредоносное ПО в ответ на заранее спланированное идеальное сочетание контекста и запроса, ничтожно мала. Еще меньше шансов, что какое-либо предприятие затем использует этот код.

Может ли это произойти в будущем? Это никому не известно. Но предприятия также создают свои ИИ-приложения, не привязываясь к одной модели и используя множество моделей. Так что, даже если китайские модели сегодня являются лучшими по соотношению цены и качества, предприятия не будут заблокированы в их использовании навсегда.

«Я думаю, что вместо разговоров о том, как запретить китайские модели, следует говорить о том, как нам создать хорошую, открытую экосистему здесь, в США», — говорит Аткинс.

Arcee также извлекает выгоду из китайских моделей. Поскольку они открыты, стартап «выигрывает от того, что эти модели хороши, потому что мы можем учиться на том, что они сделали. Мы можем строить на их основе. Затем они могут учиться на том, что делаем мы», — говорит он. «Мы испытываем огромное уважение к людям, создающим эти модели, к отдельным исследователям».

В конечном счете, способ конкурировать с китайскими моделями «заключается в том, чтобы выпустить модель, которая будет лучше», — говорит Аткинс. «Нам нужно дать им тему для обсуждения».