8800 万美元和 0% 成功率：开放模型在企业落地的两张面孔
Ollama 刚拿 8800 万美元融资，同一周却有从业者指出企业 AI 项目成功率接近 0%。开放模型的火车启动了，但轨道还没铺好。
8800 万美元和 0% 成功率：开放模型在企业落地的两张面孔
2026 年 7 月 9 日，Ollama 宣布完成 8800 万美元融资，投资方包括 Benchmark、Theory Ventures 和 8VC。平台已服务 890 万开发者，被 85% 的财富 500 强企业使用，云端 token 用量月均翻倍。同一周，一位与全球 300 多家企业深度交流过的技术负责人发表了一篇广为流传的文章，标题直白得近乎粗暴——「我们观察到的所有 AI 项目，成功率是 0%。」
一边是开放模型生态的资本狂欢，一边是企业 AI 落地的残酷现实。这两个数字放在一起，比任何行业报告都更能说明 2026 年企业 AI 的真实处境：基础设施在飞速成熟，但从"能跑"到"能用"之间，仍然横着一条很多团队跨不过去的沟。
Ollama 的故事：AI 的"个人电脑时刻"
Ollama 的创始团队不是 AI 原生出身。Jeff 和 Michael 在大学相识，创办了 Kitematic——一个让 Docker 变得"极其简单"的工具。2015 年被 Docker 收购后，他们的工作成果变成了 Docker Desktop，如今服务着全球超过一千万开发者。
十年后，他们带着同样的理念杀进了 AI 赛道：让运行开源模型像运行任何其他软件一样简单——无需权限、无需 API 密钥、无需昂贵的服务器硬件。一条命令 ollama run 就能在本地拉起最新的开源模型。
这个理念击中了开发者的痛点。Ollama 在官方博客中将当下称为"AI 的个人电脑时刻"——就像当年 PC 把计算从大型机机房搬到桌面上一样，开源模型正在把 AI 能力从少数几个 API 提供商手里解放出来。（来源：Ollama 官方博客）
但"个人电脑时刻"这个类比还有一个隐含的注脚：PC 从走进办公室到真正改变企业的工作方式，中间隔了将近二十年。
开放模型的三个真实优势——以及它们的隐性成本
Ollama 在融资公告中把开放模型的价值提炼为三点：所有权、可负担性、隐私。这三条每一条都切中了企业决策者的真实焦虑。
所有权意味着不被锁定——你用的模型归你，可以保留、定制、优化。当 OpenAI 某天调整定价策略或下架某个模型版本时，跑在自家服务器上的模型不受影响。
可负担性直指按 token 计费的焦虑。在本地硬件上跑的模型没有"每次提示词都在烧钱"的压迫感，团队可以放心地实验、迭代、大规模部署。不过"可负担"不等于"便宜"——本地部署的隐性成本账远比表面数字复杂：硬件采购、运维人力、模型版本管理，每一项都在吃掉预算。
隐私——数据永远不需要离开你的机器。这对金融、医疗、政务等行业不是锦上添花，是准入门槛。
这三条优势的另一面是：所有权意味着你得自己维护模型版本和推理服务；可负担性把成本从运营支出转移到了硬件采购和运维人力上；隐私需要你在安全加固、访问控制、审计日志上投入额外的工程资源。开放模型把选择权还给了企业，但选择权本身是有代价的。
0% 成功率：不是模型的问题，是组织的问题
那篇引发广泛讨论的文章来自一位负责公司销售统筹的技术人，他在过去一年半里与全球约 300 名专业人士交流——从一线从业者到财富 500 强高管。他的观察令人不安：他经手或接触的所有 AI 项目，无一例外全部失败。（来源：subset 博客，2026-07-18）
失败的原因很少出在模型能力上。文章列出的典型模式包括：
- 内部聊天机器人几乎无人使用。企业文档质量差，LLM 不是读心术——它只能基于被写下来且可访问的信息回答问题。文档本身烂，机器人自然烂。
- 面向客户的机器人体验糟糕。作者举了三菱汽车的案例：语音客服彬彬有礼地记录了他的问题，承诺回电。六个月过去了，没有任何回电。这个机器人在各项指标上可能都很好看——除了那个唯一重要的指标。
- 项目负责人刻意回避基本指标。没人真正追踪"这个工具被用了吗"，或者追踪的都是容易被操纵的指标。
这些失败模式有一个共同点：它们和模型选型无关。用 GPT-5 还是 Qwen3.8，用云端 API 还是本地部署，在组织层面的系统性缺陷面前都不构成关键变量。一家连软件项目都跑不好的公司，叠上 AI 项目额外的不确定性，翻车几乎是必然的。这也解释了为什么巨头们已经开始往客户现场塞工程师——他们比谁都清楚，光把模型交出去远远不够。
端侧小模型的暗线：硬件适配比参数更重要
2026 年 7 月 19 日，面壁智能联合 OpenBMB 发布了 MiniCPM5-2B：2B 参数，在 AA-Index 榜单取得 4B 以下模型最高分（17 分，平均 54.26），超越 Qwen3.5-2B 等竞品。模型原生支持混合思考和 512K 上下文，已完成华为昇腾、英伟达等 9 款芯片的 Day 0 适配。（来源：面壁智能 / AI HOT，2026-07-19）
这条新闻藏在 Ollama 融资的光芒之下，但对真正在落地企业 AI 的团队来说，芯片适配三个字的分量比融资额更重。端侧部署的现实是：企业机房里的硬件五花八门——有的跑 NVIDIA，有的跑华为昇腾，有的还在用 x86 CPU 硬扛。一个模型再强，如果在你的硬件上跑不起来，就是零。
MiniCPM5-2B 的 9 芯片适配策略说明了一个趋势：端侧模型的竞争焦点正在从"参数榜刷分"转向"异构硬件的覆盖广度"。对于需要在边缘设备、工控机、甚至手机上跑推理的场景，模型能不能在你已有的芯片上原生运行，比它在某个 benchmark 上多了几分重要得多。
| 维度 | 云端闭源 API | 本地开放模型 | 混合推理（Ollama 路线） |
|---|---|---|---|
| 模型所有权 | 无，依赖供应商 | 完全拥有 | 灵活切换 |
| 成本结构 | 按 token 计费，不可预测 | 硬件 + 运维，固定投入 | 本地跑常规 / 云端跑峰值 |
| 数据隐私 | 数据出站，合规风险高 | 数据不出本地 | 敏感数据可保持在本地 |
| 运维复杂度 | 低，供应商托管 | 高，需自建推理服务 | 中，Ollama 简化部署 |
| 模型更新 | 自动，但可能不可预期 | 手动，完全可控 | 新模型发布当日即可集成 |
| 适合场景 | 快速验证、非敏感场景 | 合规刚需、高频调用 | 企业混合部署的主流路径 |
企业应该怎么选？一个务实的框架
看完两边的极端叙事——一边是"开放模型是未来"，一边是"所有 AI 项目都在失败"——企业技术负责人的真实问题其实很朴素：我现在该怎么做？
基于我们团队在多个企业 AI 落地项目中的经验，以下是三条可操作的判断准则：
第一，先解决"人"的问题，再解决"模型"的问题。如果团队连一个标准的软件发布流程都磕磕绊绊，引入 AI 只会放大已有的混乱。确保有至少一位能独立完成模型部署、推理服务搭建和服务监控的工程师，然后再谈选型。这个话题我们在关于 AI Agent 平台在企业落地的深度分析中有更详细的拆解。
第二，从测量开始，而不是从模型开始。0% 成功率文章里最刺痛人的不是失败本身，而是"项目负责人刻意回避基本指标"。在引入任何 AI 能力之前，先定义好：成功长什么样？用什么指标衡量？基线是多少？没有测量就没有改进。
第三，混合推理是当前最务实的路径。非敏感、低频率的调用走云端 API（快速验证）；核心业务、高频调用、涉及敏感数据的走本地开放模型（成本可控 + 合规）；用 Ollama 或类似工具统一管理模型版本和推理接口，避免在每个项目里重复造轮子。关于Token 计费黑箱与模型选型的真实成本，我们也做过详细测算。
常见问题
开放模型真的能达到闭源模型的水平吗？
2026 年 7 月的现实是：在通用能力上，顶级开源模型（Qwen3.8 的 2.4T 参数、DeepSeek 等）已经非常接近闭源旗舰。但在特定领域的微调效果、长上下文稳定性、多模态能力上仍有差距。差距在缩小，但还没消失。如果你的场景对准确率要求极高且容错空间小，不要只看 benchmark——在真实数据上跑一轮对比测试。
本地部署开放模型的真实成本是多少？
以一台配备 4×RTX 4090 的推理服务器为例，硬件成本约 10-15 万人民币，可同时承载 3-5 个 7B-13B 模型的并发推理。对比云端 API，如果日均 token 消耗超过 500 万，本地部署在 6-8 个月内回本。但如果使用频率低，云端 API 仍然更划算。
Ollama 适合企业生产环境吗？
Ollama 的核心优势是降低门槛——一条命令启动模型、REST API 开箱即用。对于原型验证和小规模部署非常高效。但对于高可用、多租户、细粒度权限控制的生产环境，你可能需要在 Ollama 之上叠加负载均衡、模型版本管理、监控告警等基础设施。Ollama 是起点，不是终点。
小模型（2B 级别）能做什么？
MiniCPM5-2B 这类端侧小模型适合：文本分类、信息提取、简单的 RAG 问答、代码补全辅助、边缘设备上的实时推理。不适合：复杂多步推理、长文档深度分析、需要广泛世界知识的开放式对话。选小模型不是因为"小就够了"，而是因为"这个场景只需要这么多"。
写在最后
8800 万美元和 0% 成功率，这两个数字会在 2026 年被反复引用。但它们指向的不是开放模型的失败，也不是企业 AI 的末路。它们指向的是一个更朴素的真相：工具成熟了，但使用工具的组织还没有。
Ollama 把跑模型的门槛降到了 ollama run。但把 AI 真正嵌入业务流程、让团队用起来、让结果可测量——这些事没有一条命令能解决。好在开放模型生态给了企业一个关键的东西：选择权。剩下的，取决于你用它来做什么。
参考
- Ollama: Welcome aboard the open-source model train — Ollama 官方博客，2026-07-09
- AI 热潮正在瓦解全球决策机制 — subset 博客，2026-07-18
- MiniCPM5-2B 发布：4B 以下全球性能第一，适配 9 款芯片 — 面壁智能 / AI HOT，2026-07-19
- Qwen3.8 开源发布，2.4T 参数模型上线 — AI HOT，2026-07-19