Sparky: il chatbot AI portatile che funziona offline nella tua valigia
Un maker ha creato Sparky, un robot valigia basato su Nvidia Jetson Orin che esegue un LLM localmente e risponde in soli 200 ms.
Sparky è un innovativo robot AI portatile racchiuso in una valigia, progettato per funzionare completamente offline grazie a un modulo Nvidia Jetson Orin NX Super 16GB. L'invenzione, firmata da un appassionato del settore, offre la possibilità di interagire con un chatbot basato su Gemma 4 E4B, con tempi di risposta estremamente ridotti, circa 200 ms per il primo token e una media di 14-15 token al secondo.
Sparky si distingue per la sua autonomia di calcolo e la presenza di oltre 30 sensori, che gli permettono di acquisire contesto dall'ambiente circostante senza necessità di connettività esterna. L'interazione è resa naturale da sistemi di speech-to-text e text-to-speech integrati (SenseVoiceSmall e Piper), con una sincronizzazione avanzata tra la voce e l'animazione del volto digitale.
Configurabile tramite pulsanti, joystick e encoder analogico, Sparky rappresenta una dimostrazione delle potenzialità delle machine entity locali e dell'edge AI nel settore consumer. Il progetto ha riscosso interesse nella community per la sua originalità e le possibilità applicative in contesti privi di rete.
