AI API 价格不能只看“每 1M tokens 多少钱”。真正决定账单的是输入、输出、缓存、重试、工具调用、上下文长度和人工复核成本。

导读:你可以把这篇当成 AI API 价格核验流程来用。本文不维护容易过期的固定价格表,而是教你如何回到 官方价格页,按自己的任务计算真实成本。

先说结论

比较 AI API 成本时,应该按这个公式:

1
真实成本 = 输入 tokens + 输出 tokens + 缓存成本 + 工具调用 + 重试 + 失败返工 + 人工复核

如果只看模型单价,你很容易得出错误结论:便宜模型多次失败可能更贵,贵模型一次通过也可能更省。

官方价格来源

价格会频繁变化,优先看 官方来源:

核验规则:

  1. 价格只引用官方 pricing;
  2. 截图、社交媒体和旧文章只能当线索;
  3. 模型名、上下文、缓存政策要一起核对;
  4. 用真实任务样本计算,而不是只看单价;
  5. 每次模型迁移前重新核验价格。

成本核算表

用下面这个表记录自己的任务,而不是复制别人的结论:

任务输入 tokens输出 tokens重试率人工复核成功率最终成本
客服摘要待测待测待测待测待测待测
代码审查待测待测待测待测待测待测
长文档问答待测待测待测待测待测待测
Agent 工具调用待测待测待测待测待测待测

只有填完这张表,才知道哪个模型真的划算。

不同任务的成本结构

短问答

短问答的输入输出都不大,模型单价差异不一定是主要因素。更重要的是延迟、稳定性和回答质量。

长文档分析

长文档成本主要来自输入 tokens。此时上下文窗口、缓存、文档切块和检索策略比单次输出价格更重要。

代码生成

代码生成通常输出较长,还会有多次修正。要记录:

  • 第一次是否可运行;
  • 是否需要人工修;
  • 是否生成测试;
  • 是否通过 CI;
  • 重试几次。

Agent 工作流

Agent 成本最容易失控,因为它可能循环调用模型和工具。

控制方式:

  1. 限制最大轮数;
  2. 限制每轮 max tokens;
  3. 工具失败后不要无限重试;
  4. 高风险步骤人工确认;
  5. 记录每个任务总 tokens。

模型选型建议

场景选择思路
低风险批量任务优先低成本模型,严格限制重试
高价值代码审查选择更稳定模型,成本不是唯一指标
长文档分析看上下文、缓存和检索策略
中文内容处理用真实中文样本测试,不看英文 benchmark
多模型产品做路由和 fallback,不依赖单一模型

如果你希望统一管理多模型,可以看 One API 本地部署完整指南DeepSeek API 实战指南

Prompt Caching 和上下文复用

如果你的请求有大量固定前缀,例如系统提示、工具定义、长文档背景,缓存策略可能显著影响成本。

检查点:

  • 模型是否支持缓存;
  • 缓存命中条件是什么;
  • 固定上下文是否稳定;
  • 动态内容是否放在后面;
  • 缓存失败时成本是否可接受。

不要假设“有缓存就一定便宜”。缓存要看命中率。

成本优化 checklist

  1. 删除无用 system prompt;
  2. 长文档先检索再送模型;
  3. 输出格式简洁;
  4. 给自动化任务设置最大轮数;
  5. 给用户级别设置额度;
  6. 对失败任务记录原因;
  7. 每周检查 top expensive prompts;
  8. 用低成本模型做初筛,高价值任务再升级模型。

FAQ

哪个 AI API 最便宜?

不能脱离任务回答。价格要看 官方价格页,真实成本要看成功率、输出长度、重试和人工修改。

是否应该永远选最便宜模型?

不应该。低风险批量任务可以选低成本模型;高价值代码、安全、法律、财务类任务更应该看可靠性和复核流程。

多模型路由是否有必要?

当你有多种任务和稳定流量时有必要。早期项目先用一个稳定模型跑通,再逐步做路由。

总结

AI API 成本优化的核心不是找“最便宜模型”,而是建立成本核算 流程:官方价格核验、真实任务测试、成功任务成本计算、重试控制和用量监控。只有这样,模型选型才是数据驱动,而不是被宣传价格牵着走。