风险提示:理性看待区块链,提高风险意识!
USDT USDT $1.00 0.01%
XRP XRP $1.43310000 0.19%
BNB BNB $637.54000000 0.02%
USDC USDC $0.99963000 0.01%
SOL SOL $86.49000000 0.99%
TRX TRX $0.32360000 1.25%
BTC BTC $67,234.00 2.34%
ETH ETH $3,456.00 1.23%
CoinMeta Skill
限时免费体验

让 AI 更快获取有效、准确、可行动的币圈全景信息

用AI路由器省Token成新趋势?巨头争相布局,企业AI成本最高下降近97%

摘要

在AI使用成本持续攀升的背景下,“模型路由器”技术正加速渗透企业市场。 其核心逻辑并不复杂:为任务自动匹配合适而非最贵的模型,在效果基本不减的前提下,大幅压缩Token支出。这正推动企业从“默认调用最强模型”,转...

用AI路由器省Token成新趋势?巨头争相布局,企业AI成本最高下降近97%

在AI使用成本持续攀升的背景下,“模型路由器”技术正加速渗透企业市场。

其核心逻辑并不复杂:为任务自动匹配合适而非最贵的模型,在效果基本不减的前提下,大幅压缩Token支出。这正推动企业从“默认调用最强模型”,转向“按任务分层调度”。

从产业层面看,模型路由器正在完成从工具型产品向基础设施级组件的跃迁。无论是科技大厂还是AI平台公司,都在加速布局这一能力,并将其深度嵌入AI工作流与API网关之中。

而背后更深的信号是:AI竞争的重心,正在从“模型能力”部分转向“调度与成本优化能力”——谁更擅长精细调配,谁就更可能在下一阶段占据优势。

从“默认最强”到“按需分层”

模型路由器的本质,是对AI任务进行成本-能力匹配分层。

在企业实际使用中,大量任务并不需要最强模型。例如邮件总结、文档摘要、信息检索等场景,完全可以由更小、更便宜的模型完成,而复杂推理任务才交由前沿模型处理。

这一思路在OpenAI发布GPT-5系列后进一步普及:系统会根据任务复杂度在不同模型间自动切换。随后,跨模型、跨供应商的第三方路由器开始出现,使企业可以在OpenAI、Google、Anthropic等模型之间动态调度。

日本AI实验室Sakana AI此前推出的多模型协同系统显示,这种路由机制已经具备一定“专家分工”特征:数学问题倾向调用OpenAI模型,科学问题则更多路由至Google Gemini。

头部企业的降本实践:推理成本降幅最高达97%

在商业化层面,模型路由器已经开始带来可量化的成本下降。

Palantir Technologies 推出的路由工具 Evolve AI routing system,不仅负责模型选择,还会优化提示词并避免重复调用。公司披露,在某些案例中,通过将任务从较强模型切换至轻量模型,推理成本下降高达97%。

建筑公司McCarthy Building也表示,其AI token使用量同比下降约60%,主要来自模型调度优化。

与此同时,Databricks 推出的 Unity AI Gateway 已在内部广泛使用。其CEO Ali Ghodsi直言,这类工具之所以受欢迎,是因为企业“正在以过快速度烧掉AI预算”。

在安全与网络侧,Palo Alto Networks等公司也开始通过模型切换策略降低AI调用成本,路由能力逐渐成为企业AI架构的默认模块。

资本与产品共振,模型路由器赛道加速成型

资本市场同样迅速跟进这一趋势。

模型路由平台OpenRouter 在4月完成1.2亿美元融资,成为该赛道最受关注的创业公司之一。其核心产品“自动路由器”允许用户设定成本-质量偏好区间(0-10),系统据此动态选择模型。

数据显示,其路由策略中约三分之一请求被分配至Google的低成本模型,而仅约10%流向OpenAI较强模型,实现明显的成本分层优化。OpenRouter底层还整合了Not Diamond等路由技术提供商,并支持跨云服务商调用,以优化延迟与价格结构。

此外,AI编程公司Cognition也推出了自己的路由系统,在编程基准测试中接近前沿模型表现,但成本下降约35%。

评论 (7)

登录 后即可发表评论
安凤至天下

模型路由器能按需分配模型,像邮件总结这些小任务就不用上最强模型,挺合理。

0 回复
幽然夜雨声

AI竞争重点变了,会调度成本优化的企业更有优势,那些只注重模型能力的得改改思路。

0 回复
阿K
阿K 3周前

这技术挺好啊,能给企业省不少成本,竞争重心转向调度优化,以后这方面肯定更卷。

0 回复
▁倔强こ男孩う

OpenRouter融资这么多,看来大家都看好模型路由平台,它这成本分层优化做得还不错。

0 回复
第25个小时emoji

McCarthy建筑公司token使用量降60%,模型调度优化效果挺明显,其他企业可以借鉴。

0 回复
更多