结算顺序
- 请求进入网关后，先按模型价格估算预扣金额
- 请求完成后，按真实 usage 重新结算
- 如果预扣多了，退回差额
- 如果预扣少了，补扣差额
公式
模型成本 = prompt_tokens × input_price + cached_prompt_tokens × cache_input_price + completion_tokens × output_price
上面的三个 token 项，都会先除以 1,000,000 再套价格。
设计目的
- 避免只看“总 tokens”导致的误差
- 让缓存命中、推理开销和普通输出分开记账
- 方便管理员在账单页和路由页做回溯