開発・企業向け
Amazon ECSがNVIDIA MPSによるGPU共有に対応
原題: Amazon ECS now supports GPU sharing with NVIDIA Multi-Process Service (MPS)
複数のECS taskを1基のGPUで同時実行
AWSは2026年10月28日8時31分頃(日本時間)、Amazon ECSでNVIDIA Multi-Process ServiceによるGPU共有の提供を開始しました。
複数のAmazon ECS taskを1基のNVIDIA GPU上で同時に実行できます。
小規模modelの推論、embedding生成、複数modelの配信、AV・ADAS simulationなど、GPU容量の一部だけを使うworkloadを対象にしています。
containerごとに必要なGPU memoryを定義し、GPU computeの最大shareも任意で設定できます。
Amazon ECSはserviceのscaleとdeploymentに合わせ、利用可能な容量があるGPUへtaskを配置します。
GPU共有の導入にあたり、application codeの変更は不要です。
Amazon ECS Managed InstancesとAmazon ECS on Amazon EC2で利用できます。
Managed Instancesでは、ECSがMPS control daemonの状態を監視します。
daemonが停止または異常になった場合はinstanceを自動交換し、taskを正常なcapacityへ移動します。
すべてのAWS commercial regionとAWS GovCloud (US) regionで利用でき、console、CLI、SDK、CloudFormationなどから設定できます。