OpenAI представила открытые модели gpt-oss-20b и gpt-oss-120b для локального запуска на видеокартах RTX

Если вам нравится идея использования ИИ на вашем компьютере, но вы не хотите делиться своими данными с облачными сервисами, локальная языковая модель (LLM) может стать отличным решением. OpenAI совместно с Nvidia представила две новые модели — gpt-oss-20b и gpt-oss-120b, которые можно запускать локально при наличии достаточно мощного железа.

Модели доступны для загрузки через сайт Nvidia или Hugging Face. Также можно протестировать облачную демо-версию на gpt-oss.com, где доступны различные уровни рассуждений.

Особенность этих моделей в том, что они имеют открытые веса (open-weight). Веса — это значения, определяющие связи между нейронными сетями и параметрами. Доступ к ним позволяет лучше понять, как работает ИИ, и тонко настраивать его под свои нужды.

Обе модели относятся к категории reasoning models, то есть они «размышляют» перед тем, как дать ответ. Такие модели лежат в основе так называемого агентного ИИ, который разбивает сложные задачи на цепочки более простых. При этом они не заменят GPT-5 — будущую облачную версию от OpenAI.

Модель gpt-oss-120b может работать на видеокартах с 80 ГБ памяти, таких как профессиональные RTX Pro. Однако для домашних ПК это пока слишком требовательное решение.