国产开源模型越多,模型路由的机会越大
国产开源模型越多,模型本身越容易商品化;模型越商品化,价值就越向Routing、Eval、Workflow和算力调度层转移。
中国大模型市场有一个非常鲜明的特征:模型越来越多,能力越来越接近,价格越来越低,而且相当一部分模型采用开放权重或开源路线。
这就带来了一个看似矛盾的结果。
一方面,开发者拥有了前所未有的选择权;另一方面,企业选择模型的难度反而越来越高:
面对DeepSeek、Qwen、GLM、Kimi、MiniMax等模型,企业不仅要判断哪个模型能力更强,还要考虑价格、速度、上下文长度、工具调用、数据安全和服务稳定性。
而且,当同一个开源模型还能由不同云厂商、推理平台和企业自建集群部署时,问题就变得更加复杂。
因此,我的判断是:
国产开源模型越多,模型本身越容易商品化;模型越商品化,价值就越向Routing、Eval、Workflow和算力调度层转移。
中国真正值得关注的机会,可能不是再做一个模型,而是建立一套能够决定“任务交给哪个模型、在哪里运行、花多少钱、失败后怎么办”的智能调度系统。
开源改变了产业结构
在闭源模型时代,模型和推理服务通常绑定在一起。
使用Claude,基本意味着使用Anthropic提供的服务;使用GPT,也通常意味着通过OpenAI或者其云合作伙伴调用。模型能力和服务能力虽然不是完全相同的概念,但在产品层面很难真正分开。
开源模型改变了这种结构。
一套Qwen或者DeepSeek模型权重,可以由模型厂商自己提供API,也可以部署在阿里云、火山引擎等云平台上,还可以交给第三方推理平台运行,甚至直接部署在企业自己的GPU集群中。
于是,一次模型调用实际上包含了至少三个决策:
第一,选择哪个模型。是使用DeepSeek、Qwen、GLM,还是其他模型?
第二,选择哪个版本。是Thinking、Instruct、Coder,还是长上下文或量化版本?
第三,选择在哪里运行。是调用官方API、公有云、第三方Provider,还是使用企业自己的算力?
开源并没有消除复杂性,而是把原本由模型厂商内部处理的复杂性释放到了市场中。
这正是Routing业务产生价值的地方。
Routing不只是选模型
很多人提到Model Routing时,会把它理解成一个简单的分类器:先判断用户在做什么,再把任务分配给合适的模型。
例如,代码任务交给Coder模型,普通问答交给小模型,复杂推理交给大模型。
但真正的Routing远比这复杂。它至少包含Model Routing、Provider Routing、Hybrid Routing和Eval-based Routing四个层次:
Model Routing解决的是“使用哪个模型”。
Provider Routing解决的是“同一个模型由哪个服务商运行”。
Hybrid Routing解决的是“公有API、私有集群和本地模型之间如何分配任务”。
Eval-based Routing解决的则是“如何根据真实执行结果持续改进路由策略”。
这四层结合起来,Routing才不只是一个模型选择器,而是企业AI工作负载的控制平面。
Provider Routing先落地
在中国市场,最容易落地和商业化的可能不是Model Routing,而是Provider Routing。


