能力的价格，与失败的代价：模型选型的四条硬约束

每一周，都有一张新的榜单。

参数、上下文、基准分数，以及每百万 token 的价格，被压缩成几行数字，在社交网络和群里流转。它们都真实，也都片面。真实的是数字本身；片面的是我们比较它们的方式——仿佛“选模型”是一次投票，票投给最强的那一个，然后一切结束。

但在真实的生产环境里，选型从来不是一次投票，而是一次风险定价。你在为“能力上限”支付溢价，同时为“能力下限”承担后果。这两件事，在任何一张榜单上都看不出差别。

所以我们决定，把模型的账本摊开。

一、我们是谁，站在哪里

AionRouter 是一个模型接入网关。它把全球十余家厂商的文本、图像、视频、语音与音乐模型，收敛到一个统一的入口——当前在架 152 个，覆盖 Anthropic、OpenAI、Google、DeepSeek、阿里通义、月之暗面、智谱、MiniMax、字节与 xAI 等厂商的官方接口。对开发者，它是一套可替换的调用入口；对企业，它是一条可审计的供应链。

一家做网关的公司，为什么要把这些数字写出来？

答案并不复杂：因为我们在链路上，看到的和用户看到的不是同一件事。

用户看到的，是控制台里的一行结果。我们看到的，是这次调用走了哪条路径、落在哪个模型、消耗多少 token、等了多久、失败了几次、有没有被缓存接住。这些数据平时散落在监控面板里，除了值班的人没谁看。但它们恰恰是这个行业最稀缺的东西——关于“实际发生了什么”的描述。

所以除了网关本身，我们把三样东西摊开给人看：模型广场，把 152 个模型的价格、上下文与模态放在同一张表里；排行榜，按真实 token 用量而不是评测分数排序；以及一条持续采集的延迟与成功率监控。理由很简单：这些数字如果只留在后台，它只对我们的客户有用；写出来，它对所有人都有点用。

二、方法论：先给数字，再给判断

写三类东西：可验证的数据、可复用的方法、可排查的过程。

落笔的范围有五个栏目：模型选型、接入实践、成本与计费、问题排查、场景实践。

在此之上，有三条自我约束。

第一，**先给数字，再给判断。**每篇尽量交代取数来源、时间区间与样本量，哪怕只是文末的一行小字。没有口径的结论，我们宁可不写。

第二，**只写能被核对的经验。**我们不写“某客户接入后效率提升 300%”这类无法复现的叙事，只写延迟、成本、失败率、迁移代价——这些数字，别人可以拿着自己的数据再算一遍。

第三，**承认边界。**数据有偏差就说偏差，结论有前提就写前提，不把一次观测包装成定律。

还有两条“不写”：不复读榜单，我们不做排行榜的搬运工；不做无口径的横评，因为那只是把偏见排版得更整齐。

最后一句关于立场。我们会写自己的产品，但会明确标注出来。一家网关公司办博客，假装中立既不诚实也不好看。我们能承诺的是：讲产品的时候给理由，讲数据的时候给口径。

三、价格不是一条曲线，而是一个 118 倍的开区间

先从最硬的一件事开始：把一个模型到底要花多少钱，算清楚。

在所有可以横向比较的维度里，价格最容易被误读。人们习惯问“这个模型贵不贵”，但 2026 年的模型市场已经不存在“贵”和“便宜”这两个刻度了，只剩下一个跨度极大的开区间：

• 输入：每百万 token 从 $0.085 到 $10，相差约 118 倍。
• 输出：每百万 token 从 $0.425 到 $50，同样约 118 倍。
• 中位数：输入 $1.65，输出 $7.35。

118 倍的价差，不是品牌溢价，而是三条完全不同的成本曲线。它们对应三种价值密度截然不同的任务：

任务层	典型单价（输入 / 输出，每百万 token）	典型场景
高频低价值	$0.085–$0.5 / $0.425–$2	意图分类、字段抽取、路由、内容初筛
主力生产	$1–$3 / $5–$15	客服、代码补全、文档处理、数据分析
低频高价值	$4–$10 / $20–$50	长周期 Agent、跨库重构、关键决策辅助

三条曲线读出两个结论。

第一，输出比输入贵约 4.5 倍，这是计价结构决定的，不是某一家厂商的选择。所以真正省钱的杠杆在输出侧：更短的答案、更严的结构化约束、更少的多轮返工。绝大多数“降本”谈判发生在单价上，而账单的差异其实来自这里。

第二，错配是双向的。用 $10/百万 的模型做意图分类，和用 $0.085 的模型做架构评审，是同一种错误的两面——前者在买不需要的确定性，后者在赌不需要的准确性。

还有一个容易被忽略的刻度：缓存。在价目表里，缓存命中的单价通常只有标准输入的十分之一。这意味着“重复的上下文”已经不再是成本，“重复的计算”才是。谁把系统提示词、知识片段和历史会话管理好，谁就在同一个模型上拿到了接近一个数量级的差异。

**第一个硬约束：先确定这一步值多少钱，再决定用哪个模型。**单价本身不构成信息，单价与任务价值密度的比值才构成信息。

四、能力领先，不等于可交付

价格写在价目表上，代价写在日志里。

我们统计了 45 个模型近期的公开性能样本：平均请求耗时的中位数是 12.7 秒，最快的 2.1 秒，文本类里最慢的 55.7 秒，而图像生成可以到 103.4 秒。

这组数字首先会打破一个直觉：延迟不是“网络问题”，而是“任务形态问题”。一个 20 秒的响应，在 FAQ 场景是事故，在跨文件重构场景是正常，在批量离线任务里则完全不构成指标。同一个数字，在不同的上下文里意味着相反的结论。

更值得看的是成功率。45 个样本里，14 个低于 99%，9 个低于 95%。而排在最低处的，恰恰是能力最强的几个：claude-fable-5-1 约 30.5%，claude-opus-5-5 约 67%，gpt-6-astra 约 81%。

这里需要一次克制的解释。成功率并不是“模型好坏”的评分，它是端到端契约的产物：客户端超时、上下文超限、工具调用中断、流式连接假死，都会记在它头上。旗舰模型承接的往往是最长、最重、最容易超时的任务，所以它们的失败率天然更高。这是任务分布的结果，不是能力评价。

但恰恰是这个解释，指出了问题所在：能力上限决定你能做到什么，成功率决定你能不能每天做到。一个成功率 30% 的模型，不会因为基准分数高而变得可用，它只会让你在深夜多出三次重试。

**第二个硬约束：按任务形态分层设定 SLA，而不是给整个系统一个统一的超时。**交互式任务承诺秒级并接受降级，批处理任务承诺完成率而不承诺延迟，长任务承诺可恢复而不是承诺不中断。然后把“重试”写进契约，而不是留给值班的人临场判断。

五、市场会迁移，而且以“天”为单位

真正让人意外的，是用量数据。

过去 30 天，公开渠道的文本模型用量约 764 万亿 token，日均 25.5 万亿。11 月 4 日当天，前十名模型拿走了 71.5%，前三名 47.7%，DeepSeek 一家占 45.0%。

集中度高本身并不奇怪。奇怪的是迁移的速度。

10 月 17 日，DeepSeek 的 V4.1 Flash 发布了一个新的日期版本。上线首日，它占当天全部用量的 3.85%；第二天，16.27%。与此同时，它的上一个版本从 23.05% 掉到 14.04%——一天之内，9 个百分点。

日期	新版（20261017）	旧版（20260910）
10 月 17 日	3.85%	23.05%
10 月 18 日	16.27%	14.04%
10 月 25 日	25.42%	8.42%
11 月 4 日	32.14%	9.49%

这张表说的不是“哪家赢了”。它说的是：这个市场的用户不是在换厂商，而是在换版本。一次模型迭代，可以在 24 小时内重新分配全球六分之一的用量。

对工程的启示是残酷的。你以为的“锁定”，锁的不是某家厂商，而是某个具体版本的行为。版本一升级，提示词的有效性、输出的格式、工具调用的风格，都可能悄悄改变。而这些变化不会出现在任何一份变更公告里，它们只出现在你的错误日志里。

**第三个硬约束：把“可替换”当作一等需求，而不是应急预案。**可替换不是“多接几家”，而是三件具体的事：有一组能力等价的候选，有一套用真实任务构成的回归样例，以及一个能在十分钟内切回去的开关。没有这三样，“多供应商”只是多了一份合同。

六、一百万字上下文成为中位数之后

152 个在架模型里，上下文长度的中位数是 100 万 token，最长约 105 万。

当上下文不再稀缺，成本结构就变了。过去的优化对象是“模型”——换一个更便宜的；现在的优化对象是“上下文”——送更少、更准的东西进去。

这也解释了一个反直觉的现象：很多人换了更便宜的模型，账单却没有降。因为真正的成本从来不是单价，而是单位任务的 token 总量，而这个总量由上下文治理决定：检索精度、历史裁剪策略、输出结构约束、缓存命中率。模型只决定了乘数，上下文决定了被乘的那个数。

**第四个硬约束：先治理上下文，再谈模型价格。**顺序一旦反了，从单价上省下来的钱，会被浪费掉的 token 精确地吃掉。

七、四条硬约束，一张清单

四条硬约束可以并成一张清单。按顺序问四个问题：

1. **能力下限：**这一步最差能做到什么？——用你自己的 50 条真实任务去测，而不是看榜单。
2. **稳定性：**在什么时间窗内必须完成？——按交互、批处理、长任务分别定义。
3. **单位成本：**完成一个业务单位要多少钱？——不是每百万 token，而是每张工单、每次重构、每条视频。
4. **可替换性：**换掉它需要多久？——等价候选、回归样例、回滚开关。

四条都过的模型，才叫“可上线”。只过第一条的模型，叫“可演示”。

这两者之间的距离，就是大多数 AI 项目停下来的地方。

八、为什么我们不做“聪明的自动降级”

行业里有一种流行做法：当主模型超时或失败时，网关自动切到一个“差不多”的模型，用户无感，可用性数字变好看。

我们不这样做。

因为静默切换的成本不会消失，只会转移：它从“当天的错误率”转移到“某一天的结论错误”。一个被悄悄降级的模型给出的答案，语法正确、结构完整、语气自信，只是不对。而你不会收到告警。

所以 AionRouter 的默认行为是：由客户自己指定模型、调用顺序、备用方案与价格上限；请求路径全程留痕、可追溯；系统只按规则执行。我们不背着用户切换模型。同样地，我们只提供官方渠道，不提供低价镜像；不读取、不存储任何对话内容——选择权和责任必须留在同一个地方，否则“可靠性”只是一种统计上的错觉。

这不保守。这是把可信度建立在可验证的结构上，而不是建立在概率叙事上。

九、接下来，我们写这些

立场之后，是计划。接下来的几个月，我们按这个顺序写：

• 接入实践——把一个已经在跑的单模型应用迁到多模型，实际会坏在哪几处。提示词、结构化输出、工具调用、重试策略，逐项拆开看。
• 成本与计费——缓存命中率如何决定账单；分组折扣与速率限额在真实流量下会怎样互相牵制。
• 问题排查——超时、限流、上下文超限、流式中断，按什么顺序查，先看哪一个指标。
• 场景实践——客服、代码、内容生产三类负载，分别适合什么样的模型组合，以及为什么。
• 月度观测——价格与用量迁移的月度复盘，固定口径，每月更新一次。这件事我们会一直做，因为它比任何单篇文章都更能说明这个市场在往哪里走。

如果你希望我们拆解某个具体问题，或者发现某一篇的口径有问题，随时告诉我们。Discord 和 SUPPORT@AIONCLAW.AI 都有人看。数字写错了，我们会改，并且注明改了什么。

智能普惠的前提，从来不是“更便宜”，而是“可预期”。

764 万亿 token 之后，这个市场已经足够大，大到任何一种“最强”都只是局部最优；也足够快，快到任何一次“锁定”都会在几个月内变成负债。

这篇文章没有给出推荐名单。我们给出的是一条判断顺序：先定义任务的价值，再定义失败的代价，最后才轮到模型的名字。

模型会一直换。能留下来的，是你的评测集、你的成本模型，以及你对“失败”的定义。

—— AionRouter 团队

数据说明与口径

• **价格：**取自 AionRouter 模型广场的计费配置（含分组折扣后的实际单价），覆盖 152 个在架模型，截至 2026 年 11 月 5 日。
• **性能：**链路上采集的 45 个模型的平均请求耗时与请求成功率。样本包含长度差异很大的真实请求，受客户端超时、上下文长度与流式连接状态影响，不等同于模型能力评测。
• **用量：**公开的 OpenRouter Data API，统计区间为 2026 年 10 月 6 日至 11 月 4 日。仅覆盖该渠道的文本模型调用，不含私有化部署、企业直连与非公开流量。

以上数据用于描述趋势与量级，不构成对任何模型的绝对评价，也不构成采购建议。