企業向け・AIインフラ
TPU 8txとTPU 8i Maxを発表
原題: Our newest TPUs: 8tx and 8i Max, built for the agentic era
機密推論と大規模context向けにTPUを追加
Googleは11月10日、日本語公式blogでTPU 8txとTPU 8i Maxを発表しました。
TPU 8txはTPU 8tと同じsiliconをcustom AMD CPU hostと組み合わせ、secure confidential inferenceと小規模trainingを対象にします。
dataとmodel weightを処理中もhardware layerで保護し、規制産業や政府のagent workloadを想定しています。
Boardfly networkを採用し、Googleの説明ではTPU 8tと比べ最大2倍低いlatencyを提供します。
TPU 8i Maxは二つのTPU 8i chipを一つのpackageにし、compute、SRAM、HBM bandwidthをTPU 8iの2倍にします。
million-token context、複数agent、長時間動画などmemory bandwidthを多く使う処理を対象にします。
新しいopen-source TPU agent suiteはClaude Code、Cursor、Google Antigravityへ接続し、導入、bottleneck診断、kernel調整を支援するpreviewです。
open-sourceのXLA Serving EngineはPythonで訓練したmodelをTPU、GPU、CPUのC++ runtimeでserveします。
Agent Compute Engineは待機中のagent sessionを停止し、working memoryをchip外へ移してidle computeを削減します。
open-sourceのTPU SyncはHBM、host DRAM、storage、networkをmemory hierarchyとして扱い、KV cacheとRL weightの転送を管理します。
Cloud PathwaysはGKEで一般提供となり、複数TPU sliceを一つのcontrollerから扱えます。
GKE dynamic slicingも一般提供となり、nodepoolの再作成なしにTPU topologyを組み替えます。
性能、latency、転送時間などの数値はGoogle自身の評価で、独立評価とは区別されます。
原文にはTPU 8txと8i Maxの一般購入開始日、対象region、料金は記載されていません。