Глава Y Combinator предложил разрешить американским лабораториям дистиллировать фронтирные модели

Глава Y Combinator Гэрри Тан считает, что американским лабораториям с открытыми весами тоже стоит заняться «дистилляцией» фронтирных моделей. Об этом он рассказал в интервью CNBC.

«Я бы ничего не делал, — заявил Тан. — Можно даже порассуждать о том, что в Америке должен существовать собственный режим дистилляции».

В беседе с TechCrunch он уточнил: речь о том, чтобы небольшие американские лаборатории с открытыми весами применяли те же методы обучения к американским фронтирным моделям. Это дало бы США более широкий набор открытых моделей, не связанных с Китаем.

Дистилляция — это когда разработчик модели активно подаёт запросы другой модели, чтобы понять, как она работает и рассуждает. Этот метод широко и легально используется лабораториями для обучения новых моделей.

На этой неделе Anthropic выпустила второй отчёт, в котором утверждает, что китайские лаборатории занимаются «нелегальными дистилляционными атаками»: скрывают свою личность, чтобы дистиллировать без разрешения, и используют мошенничество и украденные учётные данные. Ранее глава Anthropic Дарио Амодеи публично призывал американских регуляторов ужесточить борьбу с дистилляцией.

Примечательно, что руководитель одного из самых известных и продуктивных стартап-акселераторов Кремниевой долины с этим не согласен.

Важно оговориться: Тан не призывает американские лаборатории использовать украденные учётные данные для дистилляции. Он хочет, чтобы они могли войти «через парадную дверь». Его аргумент двойной. Во-первых, он считает чрезмерным, когда лаборатории диктуют клиентам, что те могут делать с информацией, которой с ними делятся модели.

Во-вторых, он напоминает: проприетарные AI-лаборатории сами не спрашивали разрешения, когда впитывали максимум человеческих знаний для обучения своих моделей. Они, как известно, использовали массу защищённых авторским правом материалов без согласия правообладателей.

«Контроль над тем, что пользователи и клиенты делают с API-запросами к моделям с закрытыми весами, выглядит ограничивающим. И здесь есть роль государства: нормализовать тот факт, что доступ к интеллекту, обученному на широкодоступных публичных данных, сам по себе должен быть скорее общественным благом, чем чем-то запертым за ограничительными условиями обслуживания», — сказал он TechCrunch, отвечая на вопрос, почему американские лаборатории тоже должны иметь свободу для дистилляции.

Тан, который сам настолько активно пользуется ИИ, что однажды описал себя как человека с «киберпсихозом», хочет видеть баланс между лабораториями с открытыми весами и фронтирными лабораториями.

«Они находятся на переднем крае и двигают его вперёд. Мы хотим, чтобы это можно было финансировать и чтобы это оставалось отличной бизнес-моделью, — сказал он CNBC. — А модели с открытыми весами должны давать людям свободу и доступ».

По его мнению, настоящий сценарий AI-апокалипсиса — это когда вся огромная мощь фронтирного ИИ окажется в руках одного могущественного проприетарного провайдера. «Кошмарный сценарий, сценарий для пессимистов — это когда остаётся всего одна компания, — заявил он. — У неё лучший доступ к капиталу. У неё лучшие AI-исследователи. Она вырывается вперёд, и внезапно появляется одна монолитная компания. И это было бы плохо».