API成本控制要同时限制输入量、输出量和重复调用。只换便宜模型，可能因返工增加而提高总成本。
统计真实消耗
按任务记录输入输出量、重试和模型版本，区分测试与生产。
减少无效输入
只检索相关段落，摘要长期会话，重复稳定信息在允许时使用缓存。缓存不能跨用户泄露数据。
设置预算限制
按用户和任务限制额度，异常增长报警。高峰压力测试检查失败重试，防止故障引发调用风暴。
成本控制先限制无效请求
合并重复调用，缩短不必要上下文，给重试设置次数和业务预算上限。
比较有效任务的费用与质量，降级模型后重测关键问题，不以账单下降作为唯一成功标准。
例如相同资料重复送入每次请求，可评估缓存，但版本和权限不同的请求不能共用答案。
相关阅读：大模型API费用控制：用量、缓存与模型路由。