Глава Microsoft предупредил компании об опасности использования ИИ от OpenAI и Anthropic

Генеральный директор Microsoft Сатья Наделла выступил с неожиданным предупреждением для компаний, использующих искусственный интеллект. В своем блоге, опубликованном в воскресенье, он заявил, что пользователи ИИ платят дважды: один раз деньгами за использование токенов, а второй раз — гораздо более ценной информацией, которой они делятся с моделями.

Наделла предупреждает, что стартапы и предприятия, использующие модели от таких лабораторий, как OpenAI и Anthropic, неосознанно передают им свои самые конфиденциальные бизнес-данные. По его мнению, разработчики моделей могут затем использовать эти знания для себя, потенциально становясь конкурентами собственных клиентов.

«Вы по сути платите за интеллект дважды: один раз деньгами, и еще раз — чем-то гораздо более ценным: собственными знаниями, которые вы вынуждены раскрыть, чтобы этот интеллект был полезен. Чем лучше вы хотите, чтобы работала модель, тем больше таких знаний вы должны ей скормить!» — пишет Наделла.

Особую опасность, по его словам, представляет то, что предприятия буквально обучают модели тонкостям своего бизнеса. Модели учатся на «выхлопе»: на промптах, которые пишут пользователи, на инструментах, которые используют агенты, и особенно на исправлениях, которые вносят люди, когда модель ошибается. «Каждое исправление превращается в институциональное знание, — пишет он. — Это те знания, которые конкурент никогда не смог бы купить», — и все же предприятия добровольно их отдают.

Наделла также указывает на лицемерие разработчиков моделей, которые свободно обучаются на всех данных из интернета, но при этом ограничивают возможность «дистилляции» своих моделей — процесса, при котором изучается работа модели для создания новой, часто более дешевой. «Мне кажется ироничным, что статус-кво заключается в том, чтобы затем вводить ограничительные условия на дистилляцию», — отмечает он.

В качестве решения глава Microsoft предлагает компаниям «сохранять право собственности» на свои данные, включая промпты и обратную связь. Он призывает строить собственные «запатентованные среды обучения» в облаке, а также внедрять «оркестровочные слои» — инструменты, позволяющие легко переключаться между моделями ИИ от разных провайдеров, не привязываясь к одному.

Хотя Наделла прямо не упоминает открытый исходный код, эта тема очевидна. Крупные компании уже переходят на установку open-source моделей на собственных серверах. Идит Левин, генеральный директор Solo.io, подтверждает эту тенденцию: после экспериментов с проприетарными моделями клиенты задаются вопросом, могут ли они взять open-source модель и запустить ее локально, получая почти те же результаты за гораздо меньшие деньги и с полным контролем.

По данным Vercel, в прошлом месяце на открытые модели пришлось 29% всего трафика через их шлюз. С учетом того, что глава Microsoft, инвестировавшей в OpenAI и Anthropic, открыто призывает предприятия остерегаться проприетарных моделей, эта тенденция, вероятно, будет только усиливаться. «Потребляя интеллект, вы создаете интеллект. И то, что вы создаете, должно принадлежать вам», — заключает Наделла.