開発・モデル
ML Drift：次世代のエッジ向けGPU AI・ML推論
原題: ML Drift: Next-Gen GPU AI/ML Inference at the Edge
発表内容
Google AI Edgeは2026年10月8日、端末上のAI・機械学習推論をGPUで高速化するML Driftを発表しました。
ML DriftはOpenGL ES、OpenCL、Metal、WebGPUの差異を吸収するGPU計算基盤です。
Android、iOS、Webに加え、macOS、Windows、Linuxのデスクトップ環境を対象とします。
LiteRTのGPUアクセラレータとしてモデル分割、テンソル仮想化、5次元テンソルを扱えます。
LLM推論では、KVキャッシュのプリフィル段階とデコード段階に合わせてカーネルとレイアウトを切り替えます。
既存のTFLite GPU向けモデルは互換性を保って移行できると説明しています。
従来のTFLite GPU delegateには今後、新機能を追加しない方針です。
ML Driftアクセラレータは単体のLiteRTパッケージで利用でき、Google Play services版LiteRTへの対応は今後です。
ソースコードはApache License 2.0で公開され、アプリ開発者向けLiteRT経路とGPU・システム開発者向けC++ APIを提供します。
記事中の速度やメモリー削減値はGoogleおよび導入企業の測定結果であり、独立評価ではありません。