计费方式
PPIO LLM API 采用 按 Token 用量计费 的方式。每次 API 调用的费用由以下两部分组成:- 输入 Token(Input Tokens):您发送给模型的 prompt 内容所消耗的 token 数
- 输出 Token(Output Tokens):模型生成的响应内容所消耗的 token 数
不同模型的 Token 单价不同,请参阅 模型定价页面 查看各模型的具体价格。
HTTP 状态码
以下为 API 请求可能返回的 HTTP 状态码及对应说明:
计费原则:
- 请求未到达模型(如参数错误、认证失败、限流等):不计费
- 平台原因返回报错(500/503/504):不计费,平台承担
- 请求成功到达模型并开始推理(200/499):全额计费
499 断连计费规则
当用户主动断开连接(HTTP 499)时,模型可能已在服务端执行推理并产生了资源消耗。计费规则如下:
当请求已发送至模型并开始推理后,无论用户在何时断开连接,均按全额计费。
常见问题
为什么断开连接后还会被收费?
为什么断开连接后还会被收费?
当请求到达模型后,模型在服务端执行推理会消耗计算资源。即使客户端断开连接,已经产生的计算消耗仍然存在,因此按全额计费。
如何避免产生 499 费用?
如何避免产生 499 费用?
建议通过
max_tokens 参数预先限制生成长度,而不是中途断开连接。如果您的业务场景需要灵活控制输出长度,这是最有效的方式。账单中如何查看 499 请求的费用?
账单中如何查看 499 请求的费用?
499 请求会和正常请求一样出现在您的用量明细中,标记为消耗的 token 数量。