Google добавила TPU 8tx и TPU 8i Max в восьмое поколение TPU

TPU 8tx: конфиденциальные вычисления

TPU 8tx создан для инференса в средах конфиденциальных вычислений (Confidential Computing). Он должен защищать чувствительные данные и веса моделей в процессе использования, а также при хранении и передаче. Система рассчитана на госструктуры и компании из отраслей со строгими регуляторными требованиями.

В основе — те же чипы, что в TPU 8t, а координацию задач, подготовку данных и связь с ускорителями обеспечивают серверные процессоры AMD EPYC пятого поколения. По данным AMD, архитектура сочетает шифрование виртуальных машин SEV и механизмы проверки идентичности ускорителей и их настроек безопасности.

Google утверждает, что низколатентная сеть Boardfly позволяет снизить задержку до двух раз по сравнению с TPU 8t при ограниченном влиянии на производительность; это результаты измерений самой компании. Система позволяет запускать и дорабатывать модели в одной архитектуре, включая дообучение и обучение с подкреплением.

TPU 8i Max: длинный контекст

TPU 8i Max нацелен на задачи с длинным контекстом и большим объёмом памяти, например автономных агентов, работающих с крупными репозиториями кода или длинным видео. Он объединяет два блока TPU 8i в одном корпусе. По данным Google, это удваивает вычислительную мощность, память SRAM и пропускную способность HBM по сравнению с базовым TPU 8i и повышает плотность вычислений в стойках дата-центров.

В апреле 2026 года Google представила TPU 8t для масштабного обучения и TPU 8i для инференса с низкой задержкой. Теперь в семействе четыре системы. Компания также поддерживает открытые фреймворки, в частности PyTorch и проект TorchTPU.

В анонсе не названы цены, сроки коммерческой доступности и страны, где системы будут предлагаться.