2026 年 10 月网关生产数据:开源模型吃掉 71.5% 的 token 却只花掉 23% 的钱,近三成团队一个月内换掉主力模型厂。企业 AI 账单正在与模型厂商解耦。
2026 年 10 月,Vercel 的 AI Gateway Production Index 给出了一个不太舒服的结论:开源权重模型吃掉了 71.5% 的生产 token,却只花掉 23% 的钱。企业 AI 的账,正在和模型厂商的名字解耦。
这组数字来自 Vercel AI Gateway 在 2026 年 10 月 15 日发布的月度报告,统计口径是经该网关路由的真实生产应用 token 量与计费金额,覆盖每月数十万亿 token 的流量。
报告给出的结论很直白:开源权重模型处理了超过七成的网关 token,并占到接近四分之一的美元支出。把时间轴拉长,开源档的支出份额在三个月里翻了两番还多——6 月是每 20 美元里 1 美元,9 月已经接近每 4 美元里 1 美元。作为对照,上一期报告的标题还停留在「开源模型占 56% 的 token 量」,一个月后这个数字被推到 71.5%。
关键数字:71.5%、23%、13 倍、47%、近三分之一、近 70%——六个数字构成了这篇的全部事实基础。需要提前说明的是,这不是全行业普查:样本偏向已经在使用托管网关的团队,通常也是对成本更敏感、工程能力更强的那一批。把它当作一个高信噪比的观察窗,而不是行业均值。
因为增量几乎全部发生在最便宜的那一档模型上,而支出仍由少数高价模型拉动——9 月网关支出约为 12 月的 13 倍,平均每 token 价格却低了 47%。
报告用一句话概括了这个结构:「最便宜的模型驱动 token 增长,昂贵的模型驱动支出增长。」开源档的扩张同时来自价格区间的两端:一端是极致低价的高并发流量,另一端是单价高企的旗舰档,报告以 Kimi K3 作为后者的代表。同一份报告的小标题直接写着,前沿档模型的支出上涨了 900%,而它的支出份额反而下降了 22%。关于这一类「单价与账单背离」的成因,我们在拆解 AI 调用成本结构时也验证过同样的顺序问题。
这意味着一个常见的成本直觉是错的:调低单价不会自动让账单下降。只要高价值链路还压在旗舰模型上,「单价降 47%」和「支出涨 13 倍」可以同时成立,两者描述的是账单的不同切面。
2026 年 9 月,接近三分之一的团队更换了自己使用量最高的模型厂商,这是该指数发布以来的最高纪录,原文称其为 an index record。
同期还出现了两个反差极大的发布数据:被称为 AI Gateway 史上采用最快的模型 Jev,两周内进入 35% 的付费团队,却只贡献了 0.27% 的支出;而 Opus 5.5 在自己的头两周就拿走了超过十分之一的网关美元。也就是说,「装机率」和「花钱率」已经彻底分开了——模型被广泛试用,并不等于被广泛付费。切换率之所以能这么高,前提是工程侧接得住,这也是模型换代时最容易暴露的工程欠账。
人的一侧同样在移动。Anthropic 在 2026 年 10 月 16 日发布的研究显示,到 8 月,其内部 AI agent 的工作时长已达到员工工时的 6 倍;即便是非技术岗位,读完自己 Claude agent 的全部产出也要花掉半周工时。员工的应对方式是转向「元工作」——搭建可视性工具、监控 agent 管线。报告里一位工程师把这种状态描述为「an army of Claudes, with every one asking for my attention」(一支由 Claude 组成的军队,每一个都在索要我的注意力)。
因为模型的「产地」和「结算与托管地点」在 2026 年已经是两件事:9 月经网关在中国模型上的支出有近 70% 由美国供应商结算,而 12 月这个比例还不到 10%。
对采购方来说,这条数据比任何模型排行榜都更有用。它意味着同一份中国模型的 API 调用,可能由不同司法辖区的供应商转发——数据路径、延迟、发票主体、审计口径都会不同。做数据驻留与合规设计时,要分别确认「模型由谁训练」和「请求由谁承载」,两者不能混为一谈。采购侧的价格与合规取舍,可以参考我们对2026 年企业 AI 采购策略的复盘。
反过来,这也解释了为什么「模型可替换」会成为采购谈判里的筹码:当一个模型的调用能被不同区域、不同承载方的同一接口替代时,单点绑定带来的溢价就很难维持。
把模型调用收敛到一个网关层、并强制给每次调用打上成本与质量标签,是企业让「换模型」从一次重构变成一次配置变更的核心手段,靠的并不是选对某一家厂商。
一份可执行的落地清单:

| 任务类型 | 建议档位(参考方案) | 依据 | 主要风险 |
|---|---|---|---|
| 分类 / 打标 / 结构化抽取 | 低价档(含开源) | 占 token 大头,单次价值低 | 边界样本准确率下滑 |
| 摘要 / 翻译 / RAG 改写 | 中价档 | 质量与成本都可接受 | 长文本截断与幻觉 |
| 代码生成 / 长链 Agent | 旗舰档 | 失败代价高,重试更贵 | 成本不可控,需设预算上限 |
| 新模型试跑 | 影子流量,不进主链路 | 不影响线上结果 | 评测口径不一致 |
上表是可复用的参考路由策略,不是实测结论;上线前请用你自己的评测集重新定档。顺带说一组我们自己的口径数据:截至今日,蓝曜炬辉(广州)已发布的交付案例共 7 个,其中 5 个填写了交付周期(集中在 2–6 周)、5 个填写了团队规模(核心团队 3–4 人),技术栈以 Next.js(7 个)、PostgreSQL(7 个)、Go(6 个)为主。组件栈收敛才好治理,模型层是同一个道理——真正需要收敛的是接口与观测口径,而不是把每一家模型都深度绑定一遍。如果你正在做类似的多模型改造,可以先看我们的服务范围。
不是。开源模型吃下 71.5% 的 token 却只占 23% 的支出,说明它接管的是高并发、低单位价值的流量;前沿档仍拿走约四分之三的钱,两者是分工而非替代关系。
主要成本在评测与回归,不在接口改造。9 月接近三分之一的团队换了主力模型厂,说明接口层切换已经标准化;真正难的是证明新模型在你的业务链路上不退步,这需要一套可复用的离线评测集。
调用量在千万级 token / 月以下的团队,建议先做成本打标,不必急着自建网关。这个阶段的管理杠杆是「给每次调用打上团队与功能标签」,等流量涨到需要多供应商比价与自动降级时,再引入网关层。
要分别确认「模型由谁训练」与「请求由谁承载」。近七成美元经美国供应商结算是 2026 年 9 月的口径(12 月还不到 10%),因此数据路径、延迟、发票主体与合规口径都要按承载方单独审。
不能。它的口径是单一网关的路由流量,样本偏向已经使用托管网关的团队,属于高信噪比的观察窗而非行业普查,任何「全行业 x%」的推论都不成立。