Tiiny AI lancia il più piccolo supercomputer AI del mondo
Il Pocket Lab di Tiiny AI promette prestazioni elevate in un dispositivo delle dimensioni di un power bank.
Tiiny AI ha presentato il Pocket Lab, attestato da Guinness World Records come il più piccolo supercomputer personale AI al mondo. Di dimensioni comparabili a quelle di un power bank, offre prestazioni che solitamente richiedono hardware costoso.
Secondo Tiiny AI, il vero limite attuale dell'AI non è la potenza di calcolo, ma la dipendenza dal cloud. Come afferma Samar Bhoj, direttore GTM, "l'intelligenza non dovrebbe appartenere ai data center, ma alle persone". Il Pocket Lab consente di eseguire modelli di grandi dimensioni localmente, migliorando la privacy e riducendo la necessità di connessioni cloud.
Nonostante le dimensioni ridotte di 14.2 × 8 × 2.53 cm e un peso di soli 300 grammi, il dispositivo può gestire modelli con fino a 120 miliardi di parametri grazie alla sua CPU ARM v9.2 a 12 core e una NPU discreta da 190 TOPS. Include 80 GB di memoria LPDDR5X per eseguire modelli massicci localmente.
Il sistema integra le tecnologie TurboSparse e PowerInfer, che migliorano l'efficienza dell'inferenza e distribuiscono i carichi di lavoro AI tra CPU e NPU. Tiiny AI prevede di presentare il Pocket Lab al CES 2026, suscitando grande interesse nel settore.
Cos'è il Tiiny AI Pocket Lab?
Il Tiiny AI Pocket Lab è un supercomputer personale AI di dimensioni tascabili, certificato dal Guinness World Records come il più piccolo al mondo nella categoria 'The Smallest MiniPC
Quali sono le specifiche tecniche principali del Tiiny AI Pocket Lab?
Il dispositivo è dotato di una CPU ARMv9.2 a 12 core, un modulo AI personalizzato che offre circa 190 TOPS di potenza di calcolo, 80 GB di memoria LPDDR5X e un SSD da 1 TB. Le sue dimensioni sono 14,2 × 8 × 2,53 cm, con un peso di circa 300 grammi, e opera con un consumo energetico tipico di 65W.
Quali tecnologie innovative utilizza il Tiiny AI Pocket Lab per migliorare l'efficienza?
Il dispositivo integra le tecnologie TurboSparse e PowerInfer. TurboSparse è una tecnica di attivazione sparsa a livello di neurone che migliora significativamente l'efficienza dell'inferenza mantenendo l'intelligenza completa del modello. PowerInfer è un motore di inferenza eterogeneo open-source che accelera i carichi di lavoro dei modelli di linguaggio di grandi dimensioni distribuendo dinamicamente il calcolo tra CPU e NPU, consentendo prestazioni di livello server con un consumo energetico ridotto.
Quali sono i vantaggi dell'elaborazione AI locale rispetto all'uso del cloud?
L'elaborazione AI locale, come quella offerta dal Tiiny AI Pocket Lab, riduce la dipendenza dal cloud, migliorando la privacy e la sicurezza dei dati, poiché le informazioni sensibili rimangono sul dispositivo. Inoltre, consente un accesso più rapido ai modelli AI e riduce i costi e i rischi associati alla connettività internet e ai servizi cloud.
Quali sono le implicazioni ambientali dell'uso di dispositivi AI personali come il Tiiny AI Pocket Lab?
Dispositivi AI personali come il Tiiny AI Pocket Lab operano con un consumo energetico significativamente inferiore rispetto ai tradizionali sistemi basati su GPU, riducendo l'impronta di carbonio associata all'elaborazione AI. Questo approccio contribuisce a una maggiore sostenibilità ambientale, affrontando le preoccupazioni legate ai costi energetici crescenti e all'impatto ambientale dei data center.
Come si inserisce il Tiiny AI Pocket Lab nel mercato in espansione dei modelli di linguaggio di grandi dimensioni (LLM)?
Il Tiiny AI Pocket Lab si posiziona come una soluzione innovativa nel mercato in rapida crescita degli LLM, offrendo la possibilità di eseguire modelli fino a 120 miliardi di parametri su un dispositivo personale. Questo soddisfa oltre l'80% delle esigenze reali, fornendo capacità di ragionamento avanzate e comprensione contestuale profonda, con la sicurezza di un'elaborazione completamente offline.
