大模型选型：开源还是闭源

开源与闭源的选型，指的是在两类模型之间确定主用形态。这个问题之所以容易吵起来，是因为讨论常常停在能力对比上，而真正决定能不能长期用住的是边界、运维与成本这三件事

三个可核对的判据

• 数据能不能出去：有明确的「不出域」要求时，必须上传原文的外部形态直接出局，不需要再比效果。
• 能力缺口靠谁补：缺的能力是模型本身带来的，还是知识接入不足造成的 —— 后者换模型解决不了。
• 成本由谁承担：外部服务是按量付费的持续支出，本地形态是设备加人力的固定投入，两条曲线的形态不同。

三条都答完之后，剩下的候选通常不多。此时的比较才有意义：比的是能否在真实业务问题上达到可接受的正确率与拒答行为，而不是公开榜单上的排名。

常见组合与判断依据

• 数据敏感度高、有长期运维能力：以私有形态为主，外部服务只处理不涉敏任务。
• 数据敏感度高、运维能力有限：优先考虑托管或混合形态，把运行责任部分转移出去。
• 数据敏感度一般、需要快速起步：先用外部服务验证场景价值，再决定是否下移。
• 任务跨度大：按任务分流，而不是强求单一形态覆盖全部场景。

这些组合的共同点是：先接受「一个形态覆盖不了全部」，再为每类任务指定归属。反过来，要求某一个模型同时满足最严的边界、最强的能力和最低的成本，结论通常是不能落地的。

混合使用是常态

同一家企业同时使用两类模型并不罕见，关键在于分工规则是否明确、是否由系统执行

• 高敏感任务走私有侧，通用任务走外部侧，规则由编排层执行而不是靠人工记。
• 两侧共用同一份知识与口径，避免同一个问题得到两个不同的答案。
• 上层业务不依赖某一家接口细节，换模型时改的是配置与评测，不是重做系统。

边界与常见误判

• 把榜单分数当作选型结论，忽略了企业真实问题的分布与公开评测完全不同。
• 以为换更强的模型就能解决知识缺失，结果答案依旧不对，只是错得更流畅。
• 只看单价不看总量，忽略了调用量与留存量对总成本的影响。
• 忽略拒答行为，只比较答对率 —— 一个在不确定时照样给答案的模型，风险比答错更高。

边界同样重要：本文讨论的是形态选择，不涉及具体厂商评价。选型结论应当有复核周期，业务范围或法规变化时重新走一遍三个判据。