AI路由器省Token成新趋势巨头布局企业AI成本降近97%

当前一个引人注目的趋势是：随着AI使用成本持续攀升，“模型路由器”技术正加速渗透企业市场。

其背后的逻辑并不复杂：与其每次任务都调用最昂贵的模型，不如让系统自动匹配最合适的方案。这样既能确保效果稳定，又能大幅压缩Token支出。简言之，就是从“默认调用最强模型”转向“按任务分层调度”。

从产业视角看，模型路由器已不仅是工具型产品，它正快速演变为基础设施级组件。无论你是科技大厂还是AI平台公司，眼下都在争相布局这一能力，将其嵌入AI工作流与API网关中。

更深层的信号是：AI竞争的重心正悄然从“谁的模型更强”转向“谁的调度与成本优化更精细”。谁能把这块算得更细，谁就更有可能在下一阶段占住身位。

从“默认最强”到“按需分层”：模型路由器的成本优化逻辑

模型路由器的核心，在于对AI任务进行成本与能力的分层匹配。

企业在实践中发现，许多任务并不需要最强模型。例如邮件总结、文档摘要、信息检索等场景，完全可由更小、更廉价的模型完成。只有那些需要复杂推理的任务，才值得调用前沿模型。

这个思路在OpenAI推出GPT-5系列后愈发清晰：系统会根据任务复杂度在不同模型间自动切换。随后，跨模型、跨供应商的第三方路由器也纷纷涌现，企业可在OpenAI、Google、Anthropic等主流模型间动态调度，不再受限于单一供应商。

日本AI实验室Sakana AI此前推出过一个多模型协同系统，颇具特色。它显示路由机制已带有“专家分工”色彩：数学问题倾向于调用OpenAI模型，科学问题则更多路由到Google Gemini。

头部企业的降本实践：推理成本最高降低97%

在商业化层面，模型路由器已带来实打实的成本下降。

Palantir Technologies推出的Evolve AI路由工具，不仅管理模型选择，还能优化提示词，避免重复调用。据公司披露，在某些案例中，通过将任务从较强模型切换至轻量模型，推理成本竟降低了约97%。

建筑公司McCarthy Building也表示，其AI Token使用量同比下降约60%，主要得益于模型调度优化。

与此同时，Databricks推出的Unity AI Gateway已在内部广泛使用。其CEO Ali Ghodsi直言，这类工具之所以受欢迎，是因为企业“正在以过快的速度烧光AI预算”。

网络安全领域同样积极，Palo Alto Networks等公司通过模型切换策略降低AI调用成本。路由能力正成为企业AI架构中默认可选的功能模块。

资本与产品共振：模型路由器赛道加速成型

资本市场显然也嗅到了这股风向。

模型路由平台OpenRouter在4月完成1.2亿美元融资，一跃成为赛道最受瞩目的创业公司之一。其核心产品“自动路由器”颇具特色：用户可自行设定成本与质量偏好的区间（0到10），系统据此动态选择模型。

数据也证实了这套策略的效果：OpenRouter的路由逻辑中，约三分之一的请求被分配给Google的低成本模型，仅约10%流向OpenAI等较强模型。这种成本分层优化效果显著。底层还整合了Not Diamond等路由技术提供商，支持跨云服务商调用，进一步优化延迟与价格。

此外，AI编程公司Cognition也推出了自己的路由系统。在编程基准测试中，其表现接近前沿模型，但成本仅约为后者的35%。