開発・企業向け

Amazon SageMaker AIの双方向ストリーミングに従量課金を導入

原題: Introducing usage-based pricing for Amazon SageMaker AI bidirectional streaming

重要提供開始従量課金

音声AIの実使用量をAWS Marketplaceで請求

AWSは2026年11月12日00時10分頃(日本時間)、SageMaker AIの双方向ストリーミングへusage-based meteringを導入しました。

AWS Marketplaceへmodelを出品するproviderが、長時間のstream中に実際に消費されたunitを報告できます。

購入者はproviderが定義した音声秒数などのunitに基づくsoftware料金をAWS請求へ統合できます。

SageMaker AI endpointのinfrastructure料金はsoftware料金とは別に、endpointをprovisionしている間引き続き発生します。

Deepgramがlaunch partnerとなり、speech-to-textとtext-to-speechを使用量に応じて課金します。

推論用WebSocketとは別にmetering metadata用WebSocketを開き、同じrequest IDでsessionを関連付けます。

providerはConsumedUnitsと重複防止用ClientTokenを含むJSON recordをstream中に送信します。

metadata streamは1接続あたり毎秒1message、最大512bytesで、unit消費ごとの逐次送信が推奨されています。

metadata接続が失敗しても既定では推論を継続し、providerはmetering continuityを優先する場合に推論停止を選べます。

open connectionの長さだけでは請求量を決めず、何を1unitとするかは各providerのMarketplace offerが定義します。

model provider向けstarter templateはSageMaker Marketplace Onboarding Agent Skillから利用できます。

原文

← 日次まとめへ戻る