Google dodaje TPU 8tx i 8i Max: stawia na wyspecjalizowane chipy AI

Bezpieczeństwo i pamięć

TPU 8tx kierowany jest do administracji i regulowanych branż, które chcą uruchamiać modele i agenty AI na poufnych danych. Dane są zwykle szyfrowane w spoczynku i w transmisji, ale na czas przetwarzania muszą zostać odblokowane w pamięci. Google twierdzi, że 8tx wbudowuje ochronę w sprzęt i izoluje dane oraz wagi modeli także podczas użycia. Układ korzysta z tego samego krzemu co 8t, współpracuje z procesorami AMD EPYC piątej generacji i ma oferować nawet dwukrotnie niższe opóźnienia niż 8t, przy znikomej utracie wydajności.

TPU 8i Max odpowiada na „ścianę pamięci”. Gdy wiele agentów pracuje na całej bazie kodu lub godzinach wideo, wąskim gardłem staje się przepustowość pamięci. Google umieszcza więc dwa układy 8i w jednej obudowie, co względem standardowego 8i podwaja moc obliczeniową, wbudowaną pamięć SRAM i przepustowość pamięci. Według Vahdata system ma służyć zadaniom z długim kontekstem, np. odkrywaniu leków, złożonym problemom matematycznym i programowaniu.

Rynek i przeszkody

Vahdat przyznał, że to w istocie rekonfiguracje istniejącego krzemu, dostosowane do próśb klientów. Nowy chip to lata pracy, a system wokół niego można dopracować w kilka miesięcy. Bloomberg Intelligence szacuje, że sprzedaż TPU wraz ze sprzętem i oprogramowaniem przekroczy 135 mld dol. w 2028 r., wobec około 12 mld dol. w tym roku. Wśród klientów są Apple, Meta i Oracle. Anthropic może według dokumentu regulacyjnego kupić TPU za nawet 150 mld dol. w latach 2028–2031, a OpenAI także planuje zakupy.

Problemem jest podaż: wszystkie dostępne TPU mają już nabywców, a niedobory pamięci i mocy produkcyjnych nadal się utrzymują. Google ma poszerzać grono dostawców poza Broadcomem, m.in. o umowę z Marvellem. Pojawia się też konkurencja, jak startup Tenspresso, choć jego chip jest co najmniej rok od ukończenia projektu.