Google allarga la famiglia di chip per l’intelligenza artificiale di ottava generazione con due nuovi sistemi: il TPU 8tx, pensato per l’inferenza riservata, e il TPU 8i Max, costruito per i modelli con finestre di contesto molto estese. Con questi due annunci i sistemi TPU di ottava generazione salgono a quattro nel giro di un solo anno.
Il TPU 8i Max accoppia due chip TPU 8i in un unico package. Il risultato è il doppio di potenza di calcolo, di memoria SRAM e di banda della memoria HBM rispetto a un TPU 8i standard. Google dice che nello stesso rack entra il doppio del silicio, con meno spazio e meno consumi per ogni unità di calcolo nei data center. L’obiettivo sono i modelli che devono tenere in memoria enormi quantità di testo o di dati in una sola richiesta.
Il TPU 8tx usa lo stesso silicio del TPU 8t, quello dedicato all’addestramento, ma lo abbina a processori AMD EPYC di quinta generazione. Una enclave sicura integrata a livello hardware isola e protegge i dati sensibili e i pesi del modello. Adotta inoltre la rete Boardfly, sviluppata per il ragionamento in tempo reale sul TPU 8i, e secondo Google dimezza la latenza rispetto al TPU 8t con una penalità prestazionale quasi nulla a fronte della maggiore sicurezza.
Nessuno dei due è un’architettura nuova. Sono configurazioni diverse del silicio già presentato ad aprile al Google Cloud Next, quando l’azienda aveva diviso per la prima volta una generazione di TPU in due progetti distinti: il TPU 8t per l’addestramento su larga scala e il TPU 8i per l’inferenza. Per quei due chip Google dichiara fino a 2,7 volte la prestazione di addestramento e l’80% in più di rapporto prestazioni/prezzo nell’inferenza rispetto a Ironwood, la settima generazione.
La mossa risponde a una domanda concreta delle aziende: far girare modelli su dati riservati e gestire contesti lunghi senza moltiplicare i costi. Tocca banche, sanità e pubblica amministrazione, dove la riservatezza dei dati decide se un modello può entrare in produzione. In parallelo Google ha annunciato una suite di agenti per i TPU, open source e in anteprima, che si collega a strumenti di programmazione come Claude Code, Cursor e Google Antigravity per automatizzare l’adozione dei chip, individuare i colli di bottiglia e regolare i kernel personalizzati.
Resta il nodo del confronto con Nvidia. Google non ha pubblicato benchmark specifici, dati sui consumi o prezzi del TPU 8i Max, quindi un paragone diretto con i sistemi Rubin su efficienza e costo non è ancora possibile. Finché quei numeri non arrivano, la sfida a Nvidia resta sulla carta, e saranno i primi clienti cloud a dire quanto pesa davvero.
