開発・企業向け

Amazon ECSがNVIDIA MPSによるGPU共有に対応

原題: Amazon ECS now supports GPU sharing with NVIDIA Multi-Process Service (MPS)

重要提供開始AIインフラ

複数のECS taskを1基のGPUで同時実行

AWSは2026年10月28日8時31分頃(日本時間)、Amazon ECSでNVIDIA Multi-Process ServiceによるGPU共有の提供を開始しました。

複数のAmazon ECS taskを1基のNVIDIA GPU上で同時に実行できます。

小規模modelの推論、embedding生成、複数modelの配信、AV・ADAS simulationなど、GPU容量の一部だけを使うworkloadを対象にしています。

containerごとに必要なGPU memoryを定義し、GPU computeの最大shareも任意で設定できます。

Amazon ECSはserviceのscaleとdeploymentに合わせ、利用可能な容量があるGPUへtaskを配置します。

GPU共有の導入にあたり、application codeの変更は不要です。

Amazon ECS Managed InstancesとAmazon ECS on Amazon EC2で利用できます。

Managed Instancesでは、ECSがMPS control daemonの状態を監視します。

daemonが停止または異常になった場合はinstanceを自動交換し、taskを正常なcapacityへ移動します。

すべてのAWS commercial regionとAWS GovCloud (US) regionで利用でき、console、CLI、SDK、CloudFormationなどから設定できます。

原文

← 日次まとめへ戻る