Google dévoile les TPU 8tx et 8i Max, des puces d'IA spécialisées

Sécurité et mémoire

Le TPU 8tx vise les administrations et les secteurs réglementés qui veulent exécuter des modèles et des agents d'IA sur des données confidentielles. Ces données sont généralement chiffrées au repos et en transit, mais doivent être déchiffrées en mémoire pendant le calcul. D'après Google, le 8tx intègre la protection dans le matériel et garde données et poids des modèles isolés même pendant l'utilisation. Il repose sur le même silicium que le 8t, s'associe à des processeurs AMD EPYC de cinquième génération et affiche une latence jusqu'à deux fois plus faible, avec une pénalité de performance quasi nulle.

Le TPU 8i Max s'attaque au « mur de la mémoire » : quand de nombreux agents travaillent sur toute une base de code ou des heures de vidéo, la bande passante mémoire devient le goulot d'étranglement. Google place deux puces TPU 8i dans un même boîtier, ce qui double, selon lui, la capacité de calcul, la SRAM intégrée et la bande passante par rapport au 8i standard, avec deux fois plus de silicium dans le même espace de baie. Amin Vahdat cite le contexte long : découverte de médicaments, problèmes mathématiques complexes, programmation.

Reconfiguré plutôt que nouveau

Selon Amin Vahdat, les deux variantes reconfigurent du silicium existant selon les demandes des clients. Une nouvelle puce exige des années, alors que le système qui l'entoure (réseau, mémoire, packaging) s'ajuste en quelques mois. Sa thèse : « l'avenir tournera autour de la spécialisation ».

Le marché progresse vite. Bloomberg Intelligence anticipe plus de 135 milliards de dollars de ventes de TPU d'ici 2028, contre environ 12 milliards cette année. Apple, Meta et Oracle comptent parmi les clients ; Anthropic peut acheter jusqu'à 150 milliards de dollars de TPU entre 2028 et 2031, selon un document réglementaire. OpenAI prévoirait aussi des achats.

Des obstacles subsistent : tous les TPU disponibles sont déjà réservés, la mémoire et la capacité de fabrication restent limitées, et Google élargirait ses fournisseurs au-delà de Broadcom, avec un accord avec Marvell. La concurrence émerge aussi, notamment Tenspresso, fondée par deux anciens ingénieurs TPU, dont la puce est à au moins un an de la finalisation de sa conception.