開発・企業向け
Amazon SageMaker AIの双方向ストリーミングに従量課金を導入
原題: Introducing usage-based pricing for Amazon SageMaker AI bidirectional streaming
音声AIの実使用量をAWS Marketplaceで請求
AWSは2026年11月12日00時10分頃(日本時間)、SageMaker AIの双方向ストリーミングへusage-based meteringを導入しました。
AWS Marketplaceへmodelを出品するproviderが、長時間のstream中に実際に消費されたunitを報告できます。
購入者はproviderが定義した音声秒数などのunitに基づくsoftware料金をAWS請求へ統合できます。
SageMaker AI endpointのinfrastructure料金はsoftware料金とは別に、endpointをprovisionしている間引き続き発生します。
Deepgramがlaunch partnerとなり、speech-to-textとtext-to-speechを使用量に応じて課金します。
推論用WebSocketとは別にmetering metadata用WebSocketを開き、同じrequest IDでsessionを関連付けます。
providerはConsumedUnitsと重複防止用ClientTokenを含むJSON recordをstream中に送信します。
metadata streamは1接続あたり毎秒1message、最大512bytesで、unit消費ごとの逐次送信が推奨されています。
metadata接続が失敗しても既定では推論を継続し、providerはmetering continuityを優先する場合に推論停止を選べます。
open connectionの長さだけでは請求量を決めず、何を1unitとするかは各providerのMarketplace offerが定義します。
model provider向けstarter templateはSageMaker Marketplace Onboarding Agent Skillから利用できます。