開発
LiteRT Tensor APIを公開
原題: Native Model Authoring for Edge with LiteRT Tensor API
C++でモデルグラフを直接構築
Googleは2026年10月19日、LiteRT Tensor APIを公開しました。
開発者はC++で演算と接続を指定し、モデルの計算グラフを演算単位で構築できます。
同じグラフをLiteRT経由でCPU、ML Driftを使うGPU、NPUへ展開できます。
XNNPACKを使えば、モデルファイルやLiteRTランタイムを介さずCPU上で直接実行できます。
Hugging Faceのsafetensorsなどからウェイトを直接読み込めます。
前処理、推論、後処理は共有アクセラレーターバッファーで接続でき、中間データをCPUへ戻さず処理できます。
GoogleはSAM 2をC++で実装したサンプルと、WebGPUで動くWebアプリをオープンソース公開しました。
同じC++コードをmacOS、iOS、AndroidのGPUで実行したと説明しています。
性能値はGoogle自身の測定であり、独立評価ではありません。
Googleは一般的なモデルには変換経路を推奨し、低レベル制御が必要な場合にTensor APIを使うよう案内しています。