首页
看点啥
插画图片
首页 看点啥 阿里云百炼 TPM 预留是什么?锁定独享模型吞吐,解决高峰期限流问题

阿里云百炼 TPM 预留是什么?锁定独享模型吞吐,解决高峰期限流问题

2026-08-08 0

阿里云百炼TPM预留是什么?英文名Tokens Per Minute,TPM预留用于为指定模型锁定专属的推理吞吐量,确保在业务高峰期调用时不受公共资源共享池的限流影响,详细参考阿里云百炼AI模型官网平台:https://www.aliyun.com/product/bailian如下图:

TPM预留具有以下特性:

容量保障:预留的TPM容量为用户业务专属,不与其他用户共享,实现刚性兑付。专属模型code:创建TPM预留后,系统会自动生成一个专属模型code,用户需将API请求中的model 参数替换为此code才能使用预留容量。溢出策略可选:默认为“自动溢出至按量计费”,超出预留部分继续服务,按标准按量计费;或选择“仅使用预留容量”,超出后返回HTTP 429错误,不产生额外费用。在阿里云CLUB中心免费领取优惠券。

该方案适用于流量可预估、且不能接受因公共限流导致服务中断的生产场景。如果还需要延伸了解阿里云百炼TPM预留的说明,请移步到百炼官网查看:https://www.aliyun.com/product/bailian

喜欢(0)

上一篇

阿里云灵骏 GP9A 超节点详细说明:自研真武 M890 芯片、万亿参数 MoE 推理规格对比

阿里云灵骏 GP9A 超节点详细说明:自研真武 M890 芯片、万亿参数 MoE 推理规格对比

下一篇

AI搜索引用机制探究:为何竞品总被引用而你的官网被忽略

AI搜索引用机制探究:为何竞品总被引用而你的官网被忽略
猜你喜欢