Google erweitert TPU-Familie um TPU 8tx und TPU 8i Max

TPU 8tx: vertrauliche Inferenz

TPU 8tx ist für Inferenz in Umgebungen des Confidential Computing ausgelegt. Es schützt sensible Daten und Modellgewichte auch während der Nutzung, zusätzlich zum Schutz bei Speicherung und Übertragung. Zielgruppe sind Behörden und Unternehmen in streng regulierten Branchen, die private Modelle oder Anwendungen mit sensiblen Informationen betreiben müssen.

Das System nutzt dieselben Chips wie TPU 8t und kombiniert sie mit AMD-EPYC-Serverprozessoren der fünften Generation. Diese koordinieren Aufgaben, bereiten Daten vor und steuern die Kommunikation mit den Beschleunigern. Nach Angaben von AMD verbindet die Architektur Secure Encrypted Virtualization (SEV) mit Mechanismen zur Prüfung von Identität und Sicherheitseinstellungen der Beschleuniger.

Das latenzarme Boardfly-Netzwerk halbiert laut Google die Latenz im Vergleich zu TPU 8t im besten Fall, bei begrenztem Leistungsverlust. Das beruht auf eigenen Messungen des Unternehmens. Modelle lassen sich demnach in einer einzigen Architektur betreiben und anpassen, auch per Fine-Tuning und Reinforcement Learning.

TPU 8i Max: langer Kontext

TPU 8i Max richtet sich an Workloads mit langem Kontext und großem Speicherbedarf, etwa autonome Agenten, die riesige Code-Repositories oder lange Videoinhalte verarbeiten. Das System fasst zwei TPU-8i-Einheiten in einem Package zusammen. Google zufolge verdoppelt das Rechenleistung, SRAM und HBM-Speicherbandbreite gegenüber dem normalen TPU 8i und erhöht die Rechendichte in den Racks.

Vier Systeme in der Familie

TPU 8t für Training im großen Maßstab und TPU 8i für Inferenz mit niedriger Latenz hatte Google im April 2026 vorgestellt. Nun umfasst die Familie vier Systeme für Training, schnelle Inferenz, vertrauliches Rechnen und lange Kontexte. Die Entwicklung soll zudem über Open-Source-Frameworks wie PyTorch und das Projekt TorchTPU einfacher werden.

Preise, Verfügbarkeitstermine und Regionen nannte Google nicht.