Google sviluppa il chip Frozen v2 con architettura Gemini integrata
Il nuovo chip server promette fino a 10 volte più token per watt rispetto alle attuali TPU, puntando a una maggiore efficienza nell'AI.
Google sta lavorando a Frozen v2, un nuovo chip server che integrerà direttamente parte dell'architettura del modello Gemini nel silicio. Secondo fonti interne, Frozen v2 dovrebbe garantire un'efficienza energetica superiore, servendo da sei a dieci volte più token per unità di potenza rispetto alle ultime TPU di Google. Il lancio è previsto non prima del 2028.
La differenza principale rispetto alle TPU attuali è che parte delle decisioni operative per l'inferenza di Gemini saranno fissate nei transistor del chip, riducendo i passaggi computazionali e il traffico dati per ogni richiesta. Questo potrebbe abbassare la latenza di risposta e abilitare nuovi scenari applicativi.
Google ha scartato l'idea iniziale di incorporare direttamente i pesi del modello, per garantire una maggiore flessibilità e durata d'uso del chip. Frozen v2 manterrà la possibilità di aggiornamento dei pesi, ma rimarrà legato all'architettura Gemini. Il chip sarà prodotto in volumi inferiori rispetto alle TPU e rappresenterà una sperimentazione verso siliconi AI sempre più specializzati.
Il progetto risponde anche alla crescente domanda di risorse computazionali AI, che sta limitando la disponibilità di servizi cloud. Google non ha ancora confermato ufficialmente Frozen v2, specificando che non tutti i progetti esplorativi arrivano alla produzione.
