Google представила TPU 8tx и 8i Max: ставка на узкоспециализированные ИИ-чипы

Безопасность и память

TPU 8tx нацелен на государственные структуры и регулируемые отрасли, которым нужно запускать ИИ-модели и агентов на конфиденциальных данных. Обычно данные шифруются при хранении и передаче, но во время обработки их приходится расшифровывать в памяти. По словам Google, в 8tx защита встроена прямо в аппаратную часть и изолирует данные и веса моделей даже в процессе работы. Чип использует тот же кремний, что и 8t, работает в паре с процессорами AMD EPYC пятого поколения и, как утверждается, обеспечивает задержку до двух раз ниже, чем 8t, почти без потери производительности. Клиенты могут дообучать модели на закрытых данных, не перемещая их между кластерами.

TPU 8i Max решает проблему «стены памяти»: когда множество ИИ-агентов работает с целой кодовой базой или часами видео, узким местом становится пропускная способность памяти. Google разместила два чипа 8i в одном корпусе. По сравнению с обычным 8i это вдвое увеличивает вычислительную мощность, встроенную SRAM и пропускную способность памяти, а также позволяет вдвое плотнее упаковать кремний в стойке. По словам Вахдата, система рассчитана на задачи с длинным контекстом — поиск лекарств, сложные математические задачи, программирование.

Рынок и препятствия

Вахдат отметил, что это не принципиально новые чипы, а переконфигурации существующего кремния под запросы клиентов: новый чип требует лет работы, а систему вокруг него можно перестроить за месяцы. Bloomberg Intelligence ожидает, что продажи TPU вместе с сопутствующими оборудованием и ПО превысят 135 млрд долларов к 2028 году против примерно 12 млрд в этом. Среди клиентов — Apple, Meta и Oracle. Согласно регуляторному документу, Anthropic вправе закупить TPU на сумму до 150 млрд долларов в 2028–2031 годах; о планах закупок сообщалось и по OpenAI.

Сдерживающие факторы: все имеющиеся у Google TPU уже законтрактованы, сохраняется дефицит памяти и производственных мощностей. Компания, как сообщается, расширяет круг поставщиков за пределы Broadcom, включая соглашение с Marvell. Появляются и конкуренты, например стартап Tenspresso бывших инженеров TPU, но до завершения проекта его чипа не менее года.