Tiiny AI Pocket Lab: самый маленький в мире суперкомпьютер помещается в ладони

Пока технологические гиганты соревнуются в создании всё более крупных и прожорливых видеокарт, один стартап решил пойти совершенно другим путём. Знакомьтесь с Tiiny AI Pocket Lab — устройством, которое весит как два смартфона, но способно работать с моделями искусственного интеллекта, для которых обычно требуются серверные или оборудование за тысячи долларов. Этот карманный монстр оснащён целыми 80 ГБ оперативной памяти и обещает революцию в локальной обработке данных.

Локальный запуск искусственного интеллекта на устройстве пользователя — один из самых горячих трендов последних месяцев. Это позволяет сохранить приватность и независимость от облачных сервисов, но обычно связано с огромными затратами на оборудование. Решения вроде рабочих станций NVIDIA DGX могут стоить целое состояние, оставаясь недоступными для обычного энтузиаста. Стартап Tiiny AI бросает вызов такому положению дел, представляя «самый маленький суперкомпьютер в мире». Устройство размером всего 14,2 x 8 x 2,53 см и весом 300 граммов должно позволить запускать языковые модели размером в 120 миллиардов параметров прямо из кармана. Это достижение, которое на бумаге выглядит невозможным, становится реальностью благодаря умной инженерии.

Сердцем этого малыша является 12-ядерный процессор на архитектуре ARMv9.2, поддерживаемый собственным гетерогенным вычислительным модулем, объединяющим систему на кристалле (SoC) с выделенным блоком NPU. Вся система обеспечивает вычислительную мощность на уровне примерно 190 TOPS. Однако ключом к успеху здесь является память. Tiiny AI Pocket Lab оснащён впечатляющими 80 ГБ памяти LPDDR5X. Именно этот огромный объём оперативной памяти позволяет загружать мощные языковые модели, такие как Llama или Mistral, и проводить на них логические выводы без необходимости подключения к интернету. Более того, устройство отличается невероятной энергоэффективностью — его типичное энергопотребление составляет всего 65 ватт.

Чтобы «упаковать» такую производительность в столь маленький корпус, инженеры применили два ключевых программных решения: TurboSparse и PowerInfer. Первая технология — это метод разреженной активации на уровне нейронов, который радикально повышает эффективность логического вывода без потери «интеллекта» модели. Вторая — это механизм, который динамически распределяет нагрузку между процессором и блоком NPU, позволяя достичь производительности серверного класса при доле энергопотребления. Официальная презентация устройства состоится на выставке CES 2026. Если заявления производителя подтвердятся, мы можем стать свидетелями небольшой революции, которая позволит исследователям и энтузиастам свободно экспериментировать с продвинутым искусственным интеллектом, не строя дома маленькую электростанцию.