Илон Маск признался, что xAI обучала Grok на моделях OpenAI

OpenAI и Anthropic в последнее время активно борются с попытками сторонних разработчиков обучать новые ИИ-модели, используя запросы к их общедоступным чат-ботам и API. Этот процесс известен как «дистилляция».

Ранее обсуждение этой темы было сосредоточено на китайских компаниях, которые с помощью дистилляции создают модели с открытым весом, почти не уступающие американским аналогам, но по гораздо более низкой цене. Однако среди IT-специалистов было широко распространено мнение, что и американские лаборатории используют эти методы друг против друга, чтобы не отставать от конкурентов.

Теперь у нас есть подтверждение как минимум одного такого случая. В четверг в федеральном суде Калифорнии Илона Маска спросили, использовала ли его компания xAI методы дистилляции на моделях OpenAI для обучения Grok. Маск заявил, что это общепринятая практика среди ИИ-компаний. На уточняющий вопрос, означает ли это «да», он ответил: «Частично».

Маск в настоящее время судится с OpenAI, её генеральным директором Сэмом Альтманом и Грегом Брокманом, утверждая, что они нарушили первоначальную некоммерческую миссию OpenAI, преобразовав организацию в коммерческую структуру. Судебный процесс начался на этой неделе, и в нём уже прозвучали показания технологического лидера.

Признание Маска примечательно тем, что дистилляция угрожает ИИ-гигантам, подрывая преимущество, которое они создали, инвестируя в вычислительную инфраструктуру. Этот метод позволяет другим разработчикам ПО создавать почти столь же мощные модели с минимальными затратами. Здесь есть немалая доля иронии, учитывая изгибы и предполагаемые нарушения авторских прав со стороны ведущих лабораторий в их поисках достаточного количества данных для обучения своих моделей.

Неудивительно, что xAI Маска, основанная в 2023 году, спустя годы после OpenAI, пыталась учиться у тогдашнего лидера в этой области. Пока неясно, является ли дистилляция прямо незаконной, но она может нарушать условия предоставления услуг, которые компании устанавливают для пользователей своих продуктов.

Сообщается, что OpenAI, Anthropic и Google запустили инициативу в рамках Форума Frontier Model для обмена информацией о том, как бороться с попытками дистилляции из Китая. Обычно такие попытки включают систематические запросы к моделям для понимания их внутренней работы. Чтобы остановить эти усилия, ведущие лаборатории работают над тем, чтобы не дать пользователям делать подозрительные массовые запросы.

OpenAI не ответила на запрос о комментарии по поводу признания Маска на момент публикации.

Позже в своих показаниях Маска спросили о его заявлении прошлым летом о том, что xAI скоро будет намного впереди всех компаний, кроме Google. В ответ он проранжировал ведущих мировых поставщиков ИИ, поставив Anthropic на первое место, за ней следуют OpenAI, Google и китайские модели с открытым исходным кодом. Он охарактеризовал xAI как гораздо более маленькую компанию, в которой работает всего несколько сотен сотрудников.