Tiiny AI представила карманный мини-ПК, способный локально запускать 120-миллиардные языковые модели

Американский стартап Tiiny AI анонсировал устройство Tiiny AI Pocket Lab, которое компания называет самым маленьким в мире персональным суперкомпьютером для ИИ. Устройство весит всего 300 граммов, помещается в одной руке и обеспечивает производительность искусственного интеллекта до 190 TOPS. Оно официально сертифицировано Книгой рекордов Гиннесса как «Самый маленький мини-ПК (запускающий 100B LLM локально)» и может полностью на устройстве запускать большие языковые модели (LLM) с параметрами до 120 миллиардов.

Pocket Lab оснащён 12-ядерным процессором ARMv9.2 в паре со специализированным NPU собственной разработки, что обеспечивает производительность ИИ примерно в 190 TOPS. Устройство включает 80 ГБ оперативной памяти LPDDR5X и SSD-накопитель на 1 ТБ для поддержки крупномасштабных задач вывода. Tiiny AI спроектировала устройство для работы в рамках TDP 30 Вт и типичного энергопотребления системы 65 Вт, предлагая высокую производительность при сниженном энергопотреблении.

В компании заявляют, что Pocket Lab решает растущие проблемы зависимости от облачных сервисов, конфиденциальности данных и роста затрат на электроэнергию. Разработчики верят, что локальная обработка ИИ предлагает более устойчивую и безопасную альтернативу облачным системам. Устройство хранит все пользовательские данные и взаимодействия с моделями локально с шифрованием банковского уровня, устраняя необходимость в доступе к интернету или внешних серверах.

Pocket Lab поддерживает развёртывание нескольких открытых LLM и агентских фреймворков в один клик. Среди них GPT-OSS, Llama, Mistral, DeepSeek, Qwen и Phi, а также инструменты автоматизации, такие как ComfyUI, SillyTavern и Flowise. Система работает полностью автономно и позволяет реализовать такие сценарии, как многошаговые рассуждения, генерация контента, глубокое понимание контекста и защищённая личная память.

Компания планирует продемонстрировать Tiiny AI Pocket Lab на выставке CES 2026. Продукт позиционируется для разработчиков, исследователей, профессионалов и студентов, которым требуются портативные и приватные возможности ИИ. Устройство нацелено на решение практических задач в диапазоне от 10 до 100 миллиардов параметров, на которые, по словам компании, приходится более 80% реальных потребностей в ИИ.

ИИ: Появление таких компактных и мощных устройств для локального ИИ — интересный тренд, который может изменить подход к приватности и доступности сложных языковых моделей. Особенно впечатляет сертификация рекорда Гиннесса, что подчёркивает уникальность разработки. Остаётся дождаться реальных тестов производительности и, конечно, цены, которая пока не объявлена.