一个 AI 助手第一个月花了几百美元。到第三个月，账单涨到三倍，用量却几乎没变。一直没人说得清原因，直到有人发现：新加入的一批文档让每次请求发送的文字翻了一倍，而一个重试设置让部分请求悄悄跑了两遍。

月度账单告诉你花了多少钱，却说不出是哪个任务、哪次修改、哪个团队造成的。上线后做一点监控，就能在问题还不贵的时候找到答案。

按“每完成一个任务”衡量成本

选一个业务能理解的单位：回答一个客服问题、处理一张发票、起草一份方案。然后跟踪：

  • 单个任务成本： 模型和工具的总费用除以完成的任务数。
  • 每天的任务数： 用来区分“用得更多”和“用得更贵”。
  • 失败或中途放弃任务的成本： 付了钱却没产出有用结果的部分。

总费用上涨而单个任务成本稳定，通常说明使用在增加；单个任务成本上涨，说明有什么东西变了。

记录影响成本的因素

每次请求记录所用模型、发送和返回的文字量、工具调用次数，以及是否为重试。保存编号即可，不要保存客户内容。这些数据和排查 AI 工作流响应慢时用的分步耗时数据是同一类，可以一起收集。

成本悄悄上涨的常见原因：

  • 每次请求附带的文档更多或更长。
  • 对话历史越来越长，每条消息都整段重发。
  • 超时后重试，但第一次其实已经成功了。
  • 所有任务都换成了更强的模型，而不只是难的任务。

设定预算和告警

约定单个任务成本的正常范围和每月上限，任何一项超出就通知负责人，做法可参考自动化告警指南。很多服务商也支持设置硬性消费上限，把它当作最后一道保险，而不是唯一的检查。

降成本，但不降质量

每项调整都先用质量测试集验证，再决定是否保留：

  • 只发送任务需要的那部分文档内容。
  • 长对话先做摘要，而不是每次全文重发。
  • 简单任务交给更小的模型，取舍可参考模型选择指南。
  • 一字不差重复出现的问题，直接使用缓存的答案。

汇报价值，而不只是花费

每月把单个任务成本和每个任务节省的时间或金钱放在一起看，账单就变成了一个业务决策。具体怎么对比，可参考 AI 投资回报指南。

如需为正在运行的 AI 工作流建立成本监控，欢迎联系 Storm Nova Labs。