Энтузиаст собрал полностью офлайн-робота в чемодане на базе Nvidia Jetson

Энтузиаст собрал полностью автономного робота в чемодане, работающего на базе Nvidia Jetson. Устройство под названием Sparky способно общаться с пользователем где угодно, даже без подключения к интернету.

Пользователь Reddit под ником CreativelyBankrupt представил проект «полностью офлайн-робота в чемодане», основанного на Jetson Orin NX Super 16GB. Sparky работает на локальной модели Gemma 4 E4B, оснащен более чем 30 датчиками для восприятия окружающей среды и, по словам создателя, «имеет собственное мнение».

«Создал полностью офлайн-робота в чемодане на базе Jetson Orin NX SUPER 16GB. Gemma 4 E4B, ~200 мс кэшированного TTFT, 30+ датчиков, без Wi-Fi/BT/сотовой связи. У него есть мнение», — написал CreativelyBankrupt на Reddit.

Sparky не просто портативен: его вычислительная мощность и обширный набор сенсоров делают его грозным собеседником даже в условиях полной автономности. Однако, судя по видео, некоторые могут предпочесть оставить Sparky дома из-за его своеобразного характера, напоминающего робота Марвина из «Автостопом по галактике».

В сабреддите r/LocalLLaMA CreativelyBankrupt раскрыл технические детали проекта. «Sparky работает полностью на Jetson. Gemma 4 E4B в формате Q4_K_M через llama.cpp с q8_0 KV cache и flash attention. 12K контекста для памяти диалога, нативная системная роль», — пояснил он.

Производительность робота впечатляет: время до первого токена (TTFT) составляет около 200 мс, а скорость генерации — примерно 14-15 токенов в секунду. Для распознавания речи используется SenseVoiceSmall, а для синтеза — Piper, синхронизированный с анимированным лицом на PixiJS (частота обновления анимации рта — 43 Гц). CreativelyBankrupt отмечает, что «Vision и OCR теперь нативны для Gemma 4». Управлять Sparky можно с помощью кнопок, джойстика и аналогового энкодера.

CreativelyBankrupt опубликовал проект на Reddit, надеясь получить советы по оптимизации Gemma 4 E4B на оборудовании серии Orin. Однако комментаторы в основном восхищаются «крутым… очаровательным… милым… кичевым» проектом.