Google dévoile les TPU 8tx et TPU 8i Max, huitième génération

TPU 8tx : inférence confidentielle

Le TPU 8tx exécute l'inférence dans des environnements d'informatique confidentielle. Il protège les données sensibles et les poids des modèles pendant leur utilisation, en plus de leur protection au repos et en transit. Google vise les administrations et les entreprises de secteurs très réglementés, qui doivent faire tourner des modèles privés ou des applications manipulant des informations sensibles.

Le système reprend les puces du TPU 8t et les associe à des processeurs serveur AMD EPYC de cinquième génération, chargés de coordonner les tâches, de préparer les données et de gérer la communication avec les accélérateurs. D'après AMD, l'architecture combine la virtualisation chiffrée sécurisée (SEV) et des mécanismes de vérification de l'identité et de la configuration de sécurité des accélérateurs.

Google affirme que son réseau Boardfly à faible latence permet de réduire la latence jusqu'à de moitié par rapport au TPU 8t, avec un impact limité sur les performances, selon ses propres mesures. Les modèles peuvent être exécutés et personnalisés dans une même architecture, notamment par réglage fin et apprentissage par renforcement.

TPU 8i Max : contextes longs

Le TPU 8i Max cible les charges d'IA exigeant un long contexte et beaucoup de mémoire, comme les agents autonomes travaillant sur d'immenses dépôts de code ou de longs contenus vidéo. Il réunit deux unités TPU 8i dans un seul boîtier. Google indique que cela double la puissance de calcul, la SRAM et la bande passante mémoire HBM par rapport au TPU 8i de base, et densifie le calcul dans les baies des centres de données.

Une famille de quatre systèmes

Google avait présenté en avril 2026 le TPU 8t, pour l'entraînement à grande échelle, et le TPU 8i, pour l'inférence à faible latence. La famille compte désormais quatre systèmes. Google facilite aussi le développement via des frameworks open source comme PyTorch et le projet TorchTPU.

L'annonce ne précise ni tarifs, ni dates de disponibilité commerciale, ni pays concernés.