Tencent представила компактные и бесплатные модели искусственного интеллекта Hunyuan

Китайский технологический гигант Tencent анонсировал выпуск четырёх компактных языковых моделей Hunyuan с открытым исходным кодом. Новинки размером 0,5B, 1,8B, 4B и 7B параметров позиционируются как альтернатива более дорогим решениям конкурентов.

Несмотря на скромные размеры, модели демонстрируют впечатляющие результаты в тестах на понимание языка, математику и общие рассуждения. Особенностью архитектуры является «гибридное мышление», позволяющее пользователям выбирать между быстрым и медленным режимами работы в зависимости от задачи.

Ключевой инновацией стало нативное окно контекста в 256K токенов, что позволяет анализировать до 500 000 слов одновременно. Это делает модели особенно полезными для обработки документов, транскрипции встреч и анализа книг.

Hunyuan совместимы с популярными фреймворками, включая SGLang, vLLM и TensorRT-LLM, а также поддерживают различные техники квантования. Партнёрство с Arm, Qualcomm, Intel и MediaTek обещает быстрое масштабирование решений.

Tencent уже внедряет новые модели в свои сервисы WeChat Reading и Tencent Meeting. Практические применения включают мгновенное обнаружение спама и интеллектуальных ассистентов, демонстрируя потенциал компактных ИИ-моделей в повседневной жизни и бизнесе.

Доступность моделей на слабом железе, включая бюджетные видеокарты, делает их привлекательными для использования на ноутбуках, смартфонах и периферийных устройствах.