На фоне растущих опасений по поводу безопасности ИИ три пионера отрасли выступили в защиту открытости. Проекты вроде «Pacing the Frontier» рассматривают крупные лаборатории как способ обеспечить безопасность исследований, однако модели с открытым весом стали камнем преткновения для индустрии из-за свободного распространения и ограниченного контроля над их использованием.

На конференции Ai4 в Лас-Вегасе на прошлой неделе лауреат Нобелевской премии Джеффри Хинтон, генеральный директор и сооснователь World Labs Фей-Фей Ли и сооснователь Coursera Эндрю Нг высказались по этому вопросу. Несмотря на разногласия по конкретным тактикам, все трое привели веские аргументы в пользу сохранения открытости ИИ.

Основное беспокойство спикеров вызывала возможность того, что несколько крупных компаний будут контролировать темпы прогресса. Когда доступ к технологии контролируют немногие, как это делают Apple и Google с мобильными операционными системами, инновации замедляются, а компании-платформы могут влиять на то, что на них создается.

Эндрю Нг выразил обеспокоенность по поводу возникновения подобной динамики в ИИ. «Я не хочу, чтобы были привратники, — сказал Нг. — Это ограничивает доступ всех нас к ИИ».

Компании заинтересованы в защите своих конкурентных преимуществ, в том числе через влияние на правила отрасли. Это может создать ситуацию, где доминировать будут только крупнейшие фирмы с ресурсами для создания самых продвинутых систем ИИ.

Решение Нга — поддерживать множество провайдеров, чтобы модели и компании конкурировали, а не позволяли нескольким игрокам доминировать. «Если бы я мог дать один рецепт, это было бы продвижение открытости, — сказал Нг, — потому что ИИ — потрясающая технология, и я хочу, чтобы она была в руках каждого».

Однако не все согласились, что модели с открытым весом помогут сохранить такой порядок. Хинтон, в частности, провел различие между открытым исходным кодом, когда код доступен для проверки и модификации, и моделями с открытым весом, когда параметры обученной модели публикуются.

«Открытый исходный код — это здорово. Вы показываете людям код, и многие смотрят на строки и говорят: "О, здесь ошибка". Открытые веса означают, что вы обучаете большую модель и затем отдаете людям веса. Это совсем другое, — сказал Хинтон. — Я был против открытых весов, потому что это позволяет людям легко брать эти большие фундаментальные модели, обучение которых стоит очень дорого, и за меньшие деньги обучать их плохим вещам, например кибератакам».

Несмотря на свои оговорки, Хинтон признал, что модели с открытым весом уже стали постоянной частью ИИ. «Я думаю, эта битва проиграна. У нас уже есть модели с открытым весом, так что барьер, связанный со стоимостью обучения фундаментальных моделей, исчез. Слишком поздно».

Принятие реальности не означало игнорирования рисков. Позиция Хинтона была ясна: ИИ продолжит развиваться, и он считал это в значительной степени хорошим. По его словам, это повысит производительность, улучшит образование и здравоохранение. «Беспокоиться о возможных негативных последствиях ИИ и о том, что могут сделать разумные существа, когда они умнее нас, — это не несправедливо. Я думаю, несправедливо называть тех, кто так думает, паникерами», — добавил Хинтон.

Нг придерживался иного мнения. По его словам, вопрос не в том, рискованны ли открытые модели, а в том, кто контролирует доступ и кто выиграет на рынке. Тот, кто создаст более дешевую модель, получит преимущество. Если китайские модели с открытым весом получат широкое распространение в Азии, Африке и развивающихся странах, предупредил он, они могут повлиять на то, как миллиарды людей воспримут идеи о демократии, свободе и правах человека.

«Я надеюсь, что мы будем поощрять конкурентоспособность Америки и открытый ИИ. Оказывается, ИИ — огромный источник мягкой силы. Видно, как китайская модель добивается огромных успехов, например, в Африке», — сказал Нг. «Но моя тревога в том, что из-за лоббирования в США и запугивания создание открытого ИИ в Америке с трудом конкурирует с моделями с открытым весом из Китая. Если Китай найдет принципиально более эффективный по стоимости способ создания ИИ, то более экономичные вещи имеют фундаментальное преимущество в бизнес-принятии».

Ли возразила против такой постановки вопроса. «Очень опасно делать дихотомию между полной открытостью и полной закрытостью, — сказала она. — В сложных программных и научных системах все гораздо тоньше».

Ли привела в пример ядерную физику: научные статьи публикуются открыто, но уран регулируется, а лабораторные работы находятся где-то посередине. Урок, по ее словам, заключается в том, что открытость не обязательно должна быть выбором «все или ничего». Разные уровни экосистемы могут работать с разной степенью открытости.

Она также отметила сотрудничество государственных и частных институтов, например проект «Геном человека». Полученные знания стали платформой, на которой другие могли строить, позволяя фармацевтическим компаниям получать прибыль, ученым — продвигать свои исследования, а обществу — извлекать выгоду.

«Я думаю, мы должны использовать ИИ как такую инфраструктуру, — сказала Ли. — Нам нужны определенные уровни открытости: в научных открытиях, образовании, глобальном партнерстве, а также прибыльные бизнес-модели для предпринимателей. Но мы также принимаем закрытые системы. Эти дебаты на уровне "мы можем терпеть только одно" — ложные. Нам нужно перейти к нюансам».

Все согласились, что определенный уровень регулирования необходим для того, чтобы ИИ развивался в правильном направлении. «Мы хотим развивать ИИ так, чтобы он помогал людям, и регулирование поможет нам в этом, — сказал Хинтон. — Нельзя оставлять это на усмотрение таких людей, как Илон Маск и Марк Цукерберг».