OpenAI опасается моделей с открытым весом: нужен ли США запрет китайских LLM?

Китайская лаборатория Moonshot представила впечатляющую модель Kimi K3 — крупнейшую LLM с открытым весом. Это вызвало дискуссию, в которой смешались два вопроса: экономические перспективы американских гигантов ИИ и будущее больших языковых моделей как технологии.

Глава отдела стратегического будущего OpenAI Дин У. Болл заявил, что правительству США следует найти предлог для создания регуляторной неопределенности вокруг новых моделей, поскольку модели с открытым весом якобы сдерживают капитальные затраты ведущих лабораторий. Однако позже он отозвал свои заявления.

По данным Axios, администрация Трампа рассматривает возможность запрета K3 и других продвинутых китайских моделей по просьбе американских лабораторий. В то же время Politico сообщает, что Министерство торговли пока не планирует предпринимать таких шагов.

Выгода для крупных ИИ-компаний очевидна: модели с открытым весом, работающие на независимой инфраструктуре, предлагают более дешевый интеллект, чем лидирующие модели Anthropic или OpenAI. Если пользователи будут все чаще обращаться к ним, это снизит отдачу от огромных инвестиций в обучение моделей.

«Сильные модели с открытым исходным кодом, сопоставимые с передовыми, сожмут маржу и снизят цены ведущих компаний, — считает Брейден Хэнкок, сооснователь Snorkel AI. — Это не означает, что использование ИИ уменьшится. Напротив, оно вырастет».

Опасения по поводу китайских моделей касаются нескольких аспектов. Первый — защита данных США от китайского правительства. Однако эксперты считают, что модели с открытым весом, работающие на серверах в США, вряд ли будут утекать данные в Китай. Второй — возможная предвзятость моделей в пользу КНР, хотя для задач кодирования это неочевидно. Третий — отсутствие у китайских моделей ограничений, которые правительство США предписывает ведущим американским LLM для предотвращения их использования во взломе систем или создании оружия. Примечательно, что эти же ограничения могут делать американские компании более уязвимыми: венчурный капиталист и советник Трампа Дэвид Сакс приводит примеры, когда компании обращаются к китайским LLM для закрытия пробелов в безопасности, которые отказываются выполнять американские модели.

Однако главная мотивация для ограничений — страх, что Китай обгонит США, если ведущие лаборатории замедлятся.

«Почему правительство США должно защищать эти компании от конкурентов, которые уже заблокированы на американском рынке из-за своего происхождения?» — задается вопросом Сэм Бресник, научный сотрудник Джорджтаунского центра безопасности и новых технологий.

Сторонники открытого ИИ утверждают, что ведущие компании создают ложную дихотомию между инновациями и закрытыми моделями. По их мнению, китайские LLM могут стать центром международных исследований, как это произошло с PyTorch. Уже сейчас американские магистерские программы в основном строятся на китайских моделях с открытым весом, а половина изучаемых студентами статей поступает из китайских институтов.

«Ограничение открытых моделей не сделает ИИ безопаснее, — заявил Клем Деланг, CEO Hugging Face. — Это просто скроет риски, сосредоточит власть в руках немногих и затруднит участие следующего поколения разработчиков, исследователей, ученых и некоммерческих организаций в создании более безопасного и полезного ИИ для всех».

Бресник считает, что реальный способ замедлить Китай — усилить экспортный контроль над чипами, в частности, прекратить продажу процессоров Nvidia H200. «Это могло бы уберечь нас от спорного обсуждения запрета технологий с открытым исходным кодом, которые хочет использовать огромное количество американских компаний», — отмечает он.

Проблема усугубляется неопределенностью в экономике ИИ. Ни бизнес-модель с открытым кодом, ни проприетарная модель еще не отлажены. Компании пытаются заработать на своих инструментах, особенно на фоне растущих затрат на обучение. Аналогичные проблемы испытывают и китайские компании, где правительство поощряет открытые релизы, несмотря на сложности с их монетизацией.

Некоторые американские компании, включая Thinking Machines Lab и Nvidia, пытаются построить бизнес на выпуске открытых моделей. Хэнкок отмечает, что Nvidia выиграет, «если ИИ будут создавать десятки или сотни компаний, а не две-три, достаточно обеспеченных для производства собственных чипов». Это одна из причин ее инвестиций в Nemotron — коллекцию открытых моделей.

«Главное в том, что США были бы очень хорошо обеспечены собственными мощными и гораздо более дешевыми открытыми моделями, — сказал Бресник. — Это просто противоречит подходу, который выбрали ведущие лаборатории».