计费与用量

​

核对用量

{
  "usage": {
    "prompt_tokens": 120,
    "completion_tokens": 48,
    "total_tokens": 168
  }
}

• prompt_tokens：系统提示、消息历史、工具定义等输入。
• completion_tokens：模型生成的输出。
• total_tokens：本次请求总 Token 数。

​

控制成本

• 为模型和业务设置单次最大输出。
• 压缩不必要的历史消息，但不要破坏任务所需上下文。
• 对可缓存的固定提示词使用应用侧缓存。
• 按 API Key、应用、模型和环境拆分用量。
• 为异常调用量和余额设置告警。