Amazon SageMaker AI 双向流式推理引入按用量计费

AWS Marketplace 宣布支持 Amazon SageMaker AI 双向流式推理的按用量计量计费，模型提供商可以按客户在一次实时流会话中实际消耗的用量收费，而不是按固定套餐或订阅收费。Deepgram 是首个合作方，其语音转文字和文字转语音服务已接入这套计费机制。 具体机制上，模型提供方在 SageMaker 上部署支持双向流式推理的端点后，AWS Marketplace 会自动计量流会话中的实际使用量，并据此生成账单。这意味着语音、实时翻译等长连接、时长不定的推理场景，可以按秒或按请求量精细化计费，买卖双方的结算都走 AWS 的统一渠道。 对开发者来说，这降低了使用流式模型服务的门槛——用多少付多少，无需为峰值预留订阅额度。对模型厂商来说，接入 AWS Marketplace 的计费体系意味着可以触达 AWS 的存量客户，省去自建计费与结算系统的工作量。