구글, TPU 8tx·8i Max 공개 엔비디아에 특화 칩으로 맞서

보안과 메모리 병목

TPU 8tx는 기밀 데이터로 AI 모델과 에이전트를 실행하려는 정부와 규제 산업을 겨냥합니다. 데이터는 저장과 전송 중에는 암호화되지만 처리 중에는 메모리에서 복호화돼야 합니다. 구글은 8tx가 보호 기능을 하드웨어에 직접 넣어 사용 중에도 데이터와 모델 가중치를 격리한다고 설명합니다. TPU 8t와 같은 실리콘에 5세대 AMD EPYC 프로세서를 조합했으며, 지연 시간은 8t보다 최대 2배 짧고 성능 손실은 거의 없다고 합니다.

TPU 8i Max는 여러 AI 에이전트가 코드베이스 전체나 몇 시간 분량의 영상을 다룰 때 메모리 대역폭이 병목이 되는 '메모리 장벽'을 해결하는 제품입니다. 한 패키지에 TPU 8i 두 개를 넣어 일반 8i보다 연산 능력, 내장 SRAM, 메모리 대역폭을 두 배로 늘렸고, 같은 랙 공간에 두 배의 실리콘을 담을 수 있습니다. 바흐다트는 신약 개발, 복잡한 수학 문제, 프로그래밍 같은 긴 문맥 작업에 적합하다고 설명했습니다.

시장과 과제

두 제품은 완전히 새로운 칩이 아니라 기존 실리콘을 고객 요구에 맞춰 재구성한 것입니다. 바흐다트는 "미래는 특화를 중심으로 돌아갈 것"이라고 말했습니다.

블룸버그 인텔리전스는 TPU 매출이 올해 약 120억 달러에서 2028년 1,350억 달러를 넘을 것으로 전망합니다. 고객에는 애플, 메타, 오라클이 있고, 앤트로픽은 2028~2031년 최대 1,500억 달러어치를 살 수 있는 옵션이 있습니다. 다만 구글의 TPU는 이미 모두 고객에게 계약돼 있고 메모리와 제조 능력 부족도 이어지고 있습니다. 구글은 브로드컴 외에 마벨과도 계약하며 공급망을 넓히는 것으로 알려졌습니다.