開発

DeepJIT

重要公開CUDA・Ascend

GPUとNPUのカーネルを実行時コンパイル

DeepSeekは2026年9月10日までに、公式GitHubでDeepJITを公開しました。

DeepJITはNVIDIA CUDA GPUとHuawei Ascend NPU向けの軽量なC++20 JITランタイムです。

カーネルのソースを実行時にコンパイルし、バイナリをキャッシュしてデバイスへ読み込み、起動できます。

CUDAとAscendで共通のコンパイル、読み込み、起動の流れを提供します。

メモリ内とディスク上のキャッシュに加え、複数利用者やノードで共有するキャッシュへ対応します。

PyTorchのCUDAまたはtorch_npuの現在のストリームを既定で利用できます。

CUDAでは12.4以降のヘッダーとNVCC 12.9以降、AscendではCANN、ACL、torch_npuなどが必要です。

Linux、C++20、Python、pybind11を備えた環境へヘッダーオンリー依存として組み込みます。

履歴からのキャッシュ事前ウォームアップとPythonコンパイルAPIは開発中で、まだ利用できません。

確認時点でリポジトリに明示的なライセンス情報は表示されていません。