Showing zh content.
标价 118 倍,账单 380 倍:模型成本的三重乘数
用量与重试如何放大模型成本。
AionRouter ·
两家公司用同一个模型做同一件事,月度账单却相差五倍。这种事每个月都在发生,而原因通常不在谈判桌上。
价目表是按 token 线性排布的。每一行写着输入多少、输出多少、缓存多少,整齐、可比、容易截图转发。但账单不是按这一行算出来的。它是一次乘法:单价、用量、重试次数,三者相乘。
麻烦在于,只有第一个乘数写在价目表上。
一、价目表是线性的,账单不是
先看一组熟悉的数字。当前在架的 152 个模型里,输入单价从每百万 token $0.085 到 $10,输出从 $0.425 到 $50——两端都是约 118 倍。这是公开价目表能给出的全部信息。
于是比价变成了一件看起来很简单的事:按单价排序,挑一个便宜的;或者按能力排序,挑一个强的,然后接受它很贵。这两种排序都成立,但都只覆盖了账单的一小部分。
因为真实的账单长这样:**单价乘以用量,再乘以失败重试的次数。**第一个乘数由厂商写在价目表上,后两个由你的系统设计决定。而它们对最终金额的影响,往往比单价本身更大。
接下来的三节,逐一拆开这三个乘数。
二、第一重乘数:单价不是一个数,而是一组数
即使只看单价,它也不是“每百万 token 多少钱”这一个数字。
**首先是输入与输出的比价关系。**在 120 个标注了计费倍率的模型里,输出价格相对输入的倍率,中位数是 5.0 倍,区间从 1 倍到 20 倍。其中 20 个模型输入输出同价——不只是视频、语音这类多模态,也包括 claude-sonnet-5-5、grok-4.5 这样的文本主力。
这个倍数决定了你的钱花在哪一侧。一个 1000 token 输入、1000 token 输出的请求,在 5 倍模型上,输出部分占账单的 83%;在 1 倍模型上,只占 50%。所以“降本”的动作方向完全不同:对 5 倍模型,压缩回答长度、限制结构化输出、减少多轮返工的收益最大;对 1 倍模型,压缩上下文和输入片段才是主要杠杆。用同一种省钱方法套所有模型,效果自然时有时无。
**其次是缓存的折扣力度。**在 78 个标注了缓存价的模型里,缓存单价相对标准输入的中位数是 0.1——也就是打一折。但区间很宽:最便宜的一档按 2.5% 计费,最贵的一档按 50% 计费,两者相差 20 倍。
这意味着“命中缓存”这四个字的含金量,取决于你用哪个模型。在 2.5% 的模型上,缓存命中几乎等于免费,值得为它重构提示词结构;在 50% 的模型上,命中只省一半,工程投入的回报要重新算。很多团队做了缓存分层,却没先确认自己那个模型的缓存倍率是 0.025 还是 0.5。
**还有分组折扣与速率额度的联动。**目前有 29 个模型提供 10% 至 20% 的分组折扣。但折扣不是一张优惠券,它同时改变速率额度:标准组的额度中位数约为每分钟 500 次请求、每分钟 100 万 token,而折扣分组的额度中位数约为每分钟 1 万次请求、每分钟 1000 万 token。
也就是说,这是一个规模分层的定价结构——价格更低的一侧,吞吐上限高得多。反过来看,如果你的业务是低频、突发、单次体量大的任务,标准组反而可能更早撞到 TPM 天花板。谈折扣的时候,价格和额度要一起谈,否则省下的单价会被限流退回去。
三、第二重乘数:用量不是你写的 token,是模型读到的 token
账单上的 token 数字,几乎总是比工程师预期的多。原因很简单:你写的是一句提问,模型读的是系统提示、工具定义、历史会话、检索片段,以及上一次的输出。
这带来两个具体的结构性事实。
**第一,输入可以买得很大,输出始终受限。**152 个模型里,上下文长度的中位数是 100 万 token,但单次输出上限的中位数只有 12.8 万 token,约为上下文的八分之一。上下文可以堆到百万级,回答的长度却有硬天花板。当输出被上限截断,你得到的往往不是“短一点的答案”,而是一次失败,然后是一次重试——成本从第一重乘数直接跳到了第三重。
**第二,缓存的收益是一个乘积,不是一个开关。**命中率乘以(1 减去缓存单价倍率),才是缓存真正省下的比例。命中率 80%、缓存价 0.1 的模型,能省约 72%;同样的命中率,缓存价 0.5 的模型,只能省约 40%。而命中率本身又取决于三件事:前缀是否稳定、拼装顺序是否一致、以及这个模型是否支持缓存。
所以“用量”这个乘数,从来不是写 prompt 的那一刻决定的。它由检索精度、历史裁剪策略、工具定义的冗余度、缓存前缀的设计共同决定。换句话说,用量是设计出来的。
四、第三重乘数:重试,唯一不在价目表上的成本
现在说最容易被忽略的一项。
价目表描述的是“成功那一次”的价格。但一个请求不一定成功。把成功率折算进去,期望成本就变成了单价除以成功率——这是失败重试带来的成本放大。
用 45 个模型的真实性能样本算一遍,差距会变得很难忽视:
下表单价单位为美元 / 百万 token,耗时单位为秒。
| 模型 | 标价 | 成功率 | 有效成本 | 平均耗时 | 期望耗时 |
|---|---|---|---|---|---|
| claude-fable-5-1 | $10 / $50 | 30.5% | $32.75 / $163.77 | 12.7 | 41.6 |
| claude-fable-5 | $10 / $50 | 100% | $10.00 / $50.00 | 28.4 | 28.4 |
| gpt-6-astra | $10 / $50 | 80.8% | $12.38 / $61.90 | 5.3 | 6.5 |
| qwen3.8-max | $2 / $6 | 20.0% | $10.00 / $30.00 | 15.8 | 79.0 |
| claude-sonnet-5-5 | $2 / $10 | 99.0% | $2.02 / $10.10 | 18.1 | 18.3 |
| gpt-6-luna | $0.10 / $0.50 | 99.8% | $0.10 / $0.50 | 13.7 | 13.7 |
| gpt-4o-mini | $0.15 / $0.60 | 100% | $0.15 / $0.60 | 2.5 | 2.5 |
这张表里有三件事值得停下来看。
**第一,同一家族的相邻两代,价格完全一样,有效成本相差 3.3 倍。**claude-fable-5 与 claude-fable-5-1 的标价都是 $10 / $50,但前者的成功率是 100%,后者是 30.5%。把成功率折算进去,后者的有效输出成本是 $163.77,前者是 $50。更值得玩味的是两者的速度:新版平均耗时 12.7 秒,旧版 28.4 秒。也就是说,新版用“更快”换来了“更贵”——如果你只看速度或只看标价,都会得出相反的结论。
**第二,“便宜的模型”可能一点也不便宜。**qwen3.8-max 的标价是 $2 / $6,不到旗舰模型的五分之一。但 20% 的成功率把它折算成 $10 / $30,与旗舰同档,而期望耗时 79 秒,是表中最慢的。单价排序在这里完全失效。
**第三,期望耗时应成为与成本并列的指标。**用户感知的不是“平均耗时”,而是“等到结果的平均时间”,也就是耗时除以成功率。表中最快的 gpt-4o-mini 是 2.5 秒,最慢的 41.6 秒——16 倍的差距,不会出现在任何一张价目表上。
关于这张表,需要交代口径,否则它会被误用。第一,这是上界估计:它假设失败请求按同样单价计费,且需要一次完整重试。如果失败发生在首字节之前、或供应商对错误请求不计费,实际值会低一些。第二,成功率里混合了非模型因素:客户端超时、上下文超限、工具调用中断、流式连接假死都会计入失败,而旗舰模型承接的往往是最重、最容易超时的任务。第三,重试若落到备用模型,成本结构会变——本节的计算只适用于“同模型重试”。
把这三条说完,结论反而更清晰:正因为成功率受任务形态影响,它才必须和单价一起进入选型决策;单看任何一个,都会误判。
五、118 倍与 380 倍之间,差的是判断力
回到开头那组数字。标价的最大价差是约 118 倍;而把成功率折算进去之后,有效成本的最大价差约为 380 倍。
三分之一的差距来自价目表,剩下的来自任务与可靠性。这个放大效应有一个结构性原因:高价模型通常被用来承接最重、最不确定的任务,因此成功率更低;低价模型多用于分类、抽取、短问答,因此成功率接近 100%。于是贵的越算越贵,便宜的越算越便宜——马太效应不是营销话术,它是定价公式的必然结果。
这不是说贵模型不值。恰恰相反:如果你的任务需要它,那 $163.77 的有效成本依然是合理的价格,因为它买到的是别处买不到的能力。但你必须知道自己在为什么付钱——是为能力付,还是为失败付。这两笔钱的优化方式完全不同。
六、四条可以立刻用的规则
**第一,把计价单位换成业务单位。**不是每百万 token,而是每张工单、每次代码评审、每条视频、每千次问答。只有在业务单位上,三个乘数才会合并成一个可比较的数字。
**第二,先看输入输出比价,再决定优化方向。**5 倍模型上,压缩输出最有效;1 倍模型上,压缩上下文最有效。方向错了,努力会打折。
**第三,选型表里加一列“有效单价”。**它的算法就是标价除以成功率。这一列会改变排序,而改变后的排序通常更接近真实账单。
**第四,缓存要设计,不要指望。**先确认目标模型的缓存价倍率,再决定是否投入工程改造提示词结构;命中率不是自动产生的,它来自前缀稳定性与拼装顺序的一致性。
如果还要加第五条,那就是:**谈折扣时把速率额度一起谈。**价格与每分钟请求数、每分钟 token 数是同一套定价结构的两面,单谈一面,另一面会以限流的形式找回来。
七、成本是设计出来的
三个乘数里,只有第一个由厂商决定。用量由你的上下文治理决定,重试由你的超时、重试与降级策略决定。
这也是我们把这些数字放在同一个界面里的原因:模型广场给出价格与计费参数,性能监控给出延迟与成功率,两者并排,有效成本才可计算。一份价目表只能告诉你“买一个 token 多少钱”,而这从来不是账单的全部。
账单是你对任务理解程度的函数。理解得越细,乘数就越小。
—— AionRouter 团队
数据说明与口径
价格:取自 AionRouter 模型广场的计费配置(含分组折扣后的实际单价),覆盖 152 个在架模型,截至 2026 年 11 月 5 日。
性能:链路上采集的 45 个模型的平均请求耗时与请求成功率。样本包含长度差异很大的真实请求,受客户端超时、上下文长度与流式连接状态影响,不等同于模型能力评测。
有效成本:按“标价 ÷ 成功率”估算,属于上界;假设失败请求按原价计费且需一次完整重试,若失败发生在首字节前或供应商不计费,实际值更低。仅用于横向比较,不构成采购建议。
计费参数:输入输出比价、缓存倍率、输出上限、速率额度均取自模型广场的公开配置,不同版本可能调整,请以实时页面为准。