正在加载，请稍候
Together Link 称把编码智能体接到开源模型可降费 50%+，那是宣传口径，不是你下个月的账单。拆开一张真实月度账，决定成本的是四个开关：模型路由、上下文缓存、异步编排、失败重试治理。
2026 年 10 月 5 日，Together AI 发布 Together Link：把团队已在用的编码智能体接到开源模型上，官方口径是「降低模型支出超过 50%」。这个数字站得住，但它是相对口径，不是你下个月真正要付的账。同一份账里，决定金额的其实是四个开关。这篇不聊选型，只拆账。
先看这次发布做了什么。它不改工作流，而是把 harness（Claude Code、Claude Desktop、Codex、OpenCode、Pi）里的模型请求接到开源模型上，按既有 API key 的 serverless 或 credit pack 付费，并附一个每会话追踪器，显示本次实际支出以及同样会话在顶级闭源档上本来要花多少（发布说明）。
问题藏在这个对比里。降费 50%+ 的 baseline 是「顶级闭源单跑」。若团队本来就在混用便宜档、或手上的活儿偏简单，降幅会被摊薄。口径差主要来自三处：
| 维度 | 宣传口径 | 你的实测口径 |
|---|---|---|
| 对比基线 | 顶级闭源单跑 | 你当前真实的作业分布 |
| 计费单位 | 按用量的单价差 | 是否还在为按席位／会话的订阅付费、切换后能否退订 |
| 作业结构 | 全部视为同类 | 简单修复、大重构、调试混在一起，单价差被平均掉 |
宣传给的是「单价 × 折扣」，你要算的是「单价 × 折扣 × 作业分布 × 缓存命中率」。后者才叫账。下面四个开关，就是这条公式的四个乘数。
Auto 用一个路由层读每段会话的第一个任务来决定派单：简单修复走快而便宜的档位，难活给前沿能力。带 Anthropic key 时它在前沿闭源与开源前沿之间切换，不带则在开源前沿与它的轻量版之间。开源线如今分档清晰——前沿开放、性价比、小模型三档，这是官方迁移手册给出的分类（迁移五阶段）。
能省多少看实测：某开源前沿模型与它的轻量版跑 900 次 DeepSWE，轻量版一次通过率低 5.6 个点，但成本低 17 倍；到第四次尝试，差距只剩 2.6 个点（轻量版实测）。日常活里那 5 个点，通常不值多花 17 倍。
更狠的是级联：先用开源前沿跑，测试不过再升级到闭源旗舰。实测里这套打法解决 85.9% 的题、每题 $6.61；而闭源旗舰单独跑只解决 72.7%、每题 $8.37——高 13 个点，还便宜 21%（级联实测）。
适用边界：分层明显的团队收益最大。若活儿高度同质——要么全是重构、要么全是改文案——让路由去猜，不如手动把简单活钉死在轻量档，控制权留在自己手里。
账里输入部分的消耗常高于输出，因为每一轮都要把系统提示、仓库知识、历史对话重新送进去。某全球金融科技公司的编码助手真实负载：输入长度 p50／p90／p95 约 81K／163K／178K 词元，请求速率却只有 3／6／7 RPS（金融客户案例）。这个形状——上下文极长、并发极低——说明钱几乎全花在「把同一段前缀一遍遍重算」。
这也解释了它为什么强调每段会话只路由一次：只有前缀稳定，prompt caching 才继续生效。反过来，频繁换模型、每轮重建前缀，都会打掉命中率，把省下的单价又吐回去。
可落地三件事：稳定前缀固定在最前吃缓存；控制检索范围，别把整个仓库塞进去；会话尽量长、少重启。
那家客户的流量还有个特征：尖峰集中在工程时段，上班挤爆、下班空着。这条曲线本身就是钱。
异步的思路，是把「人能等」的活儿从白天挪到夜里批量跑：大重构、依赖升级、批量补测试、跨仓库扫描，本就不用人盯着。配套两个杠杆是批处理推理，以及预占式计算——后者以按需价 50% 提供同样的 GPU 容量，配 5 分钟排空窗口（预占式计算）。
适用边界：只有结果能等的活儿适合。需要即时反馈的补全挪到夜里只会拖慢节奏。判断很简单：这个输出，是明早看，还是现在就要看？
前三个开关往外省，第四个是「别漏」。一大块支出花在失败与重试上。实测中一次通过率与第四次通过率的差距高达十几个点，意味着大量活儿要靠多次尝试才成，每次都是一次完整计费。
更隐蔽的是失败质量：同一份实测里，闭源旗舰在 20% 的失败中会打破仓库里原本通过的测试（回归），开源前沿只有 11%。一次打断既有测试的失败，返工代价远高于它省下的钱——选错模型，会把「省钱」变成「返工」。此外，闭源旗舰平均 60k 输出、61 步，开源前沿是 80k、124 步：单看单价前者更贵，但它烧的量和步数更少。所以该盯的不是单价，而是 cost per task——每个活儿、每次尝试的真实代价（业界也把它叫作每成功任务成本），加上验证一次要多久。
治理三条：给失败设止损（单任务最大步数与消耗上限）；对会改动既有测试的模型加回归门禁；把「近失」（基线没坏、也没解决）归档给人工，避免无限重试。
四个开关合起来，能粗推一张表。下表单价锚点来自公开的 DeepSWE 实测（开源前沿 $3.99／rollout、闭源旗舰 $8.37、级联 $6.61），作业量为估算（假设每人每工作日约 15 次 agent 作业、每月 21 个工作日），四道闸全开的混合均价按 $2.4–2.7／题估算，因为日常活多数落到轻量档。金额均为估算，非实测账单。
| 团队规模 | 月作业量（估算） | 全用前沿闭源单跑（估算） | 四道闸全开（估算） | 估算降幅 |
|---|---|---|---|---|
| 约 10 人 | 3,000 | 约 $25,000 | 约 $8,000 | 约 68% |
| 约 50 人 | 16,000 | 约 $134,000 | 约 $42,000 | 约 69% |
| 约 200 人 | 63,000 | 约 $527,000 | 约 $155,000 | 约 71% |
表里有个反直觉点：规模越大，降幅越明显。缓存、异步、路由都有固定投入，人越多、活儿越同质，摊薄越好。10 人团队不必照搬大厂方案——先把「简单活钉死轻量档」和「固定前缀吃缓存」这两件零成本的事做掉，就能拿到大半收益。
还得提醒：这张表的 baseline 是「全用前沿闭源单跑」。若你已在用便宜的闭源档，真实降幅更小——这正是很多团队照宣传口径做预算、最后对不上账的原因。
问：官方说的降费 50%+ 可信吗？
可信，但要对齐口径。它比的是相对顶级闭源单跑的支出。先摸清自家作业分布和计费方式，再套折扣。
问：换开源会不会掉质量？
看用法。单跑一次，开源前沿的通过率是 69.0%，闭源旗舰 72.7%，差 3.7 个点、落在标准差内；允许重试后开源反超（87.6% 对 85.8%）。分级派单加级联，质量基本不掉、支出显著下降。
问：小团队值不值得配缓存和路由？
值得，但别一次上全套。优先两件零成本的事：简单活固定到便宜档；会话尽量长、前缀稳定以命中缓存。异步与重试治理放第二阶段。
问：怎么算自家的「AI 研发效能账」？
别只盯单价。盯四个数：每个活儿的真实代价、每次尝试的消耗、平均步数、验证一次要多久。这四个合起来，才是能拿去和财务对齐的账。
降费 50% 是别人算给你的口径，四个开关才是你能自己拧的旋钮。如果你的团队正在评估「编码智能体换开源模型」到底能省多少，或者已经在跑、但账单对不上预期，可以带着当前的作业分布和月度支出找我们聊一次。蓝曜炬辉（www.lanyaoai.com）做过多个 AIcoding 落地与研发效能治理项目，可以帮你把口径差、路由策略、缓存命中和重试治理逐项落到账单上——先看账，再决定换不换。欢迎通过 联系我们 或浏览 案例库 进一步了解。
延伸阅读：从席位定价转向结果定价的三本账、每成功任务成本与工具的「启动税」、为什么 AI 研发效能的瓶颈不在编码、按用量计费、模型路由与搜索交易化三信号、从 480 亿美元估值读出的三个信号。