外媒:企业AI降本不能只靠更便宜模型
摘要
外媒评论认为,企业过去两年大规模试用 AI 是合理选择,但 2026 年管理层更关心的,已经从“部署更多 AI”转向“如何在控制成本的同时拿到实际结果”。文章称,单纯依赖更便宜的 token 或模型,并不能解决企业 AI 的核心...
外媒评论认为,企业过去两年大规模试用 AI 是合理选择,但 2026 年管理层更关心的,已经从“部署更多 AI”转向“如何在控制成本的同时拿到实际结果”。文章称,单纯依赖更便宜的 token 或模型,并不能解决企业 AI 的核心问题。
五个常见浪费环节
作者指出,许多公司当前的 AI 使用方式像“漏水管道”。从提示词构建到数据调用,再到模型选择和结果复用,多个环节都在持续消耗不必要的 token 和预算。即便 OpenAI、Anthropic、Google 等厂商近来下调输入 token 价格,并推出提示缓存等功能,这也只能缓解一部分压力。

文章将企业 AI 的低效率归纳为五类。第一是上下文膨胀。企业把过多信息塞进提示词,不仅增加成本,也可能让模型输出偏离重点。作者认为,更有效的做法是先整理底层数据,让系统直接调用可信信息,而不是把大量原始内容临时拼进 prompt。
第二是数据访问缺乏治理。若没有清晰的数据目录、权限和质量标记,AI 代理会在数据仓库中反复检索,再事后校验结果,既浪费 token,也容易带来不一致的执行结果。第三是模型错配。文章称,把所有任务都交给最强、最贵的前沿模型,是企业最常见也最昂贵的习惯。
记忆与缓存决定长期成本
第四个问题是缺少持续记忆。无状态代理每次交互都要重新加载背景、重跑历史信息、重新识别已处理过的例外情况。文章认为,若系统能保留用户偏好、既有决策和待办事项,就能减少重复计算,并降低单次交互成本。
第五是重复请求没有复用。许多企业代理面对高频、相似任务时,仍像首次处理一样重新读取上下文、重新检索、重新生成答案。作者建议,把提示缓存、向量嵌入复用和预计算结果结合起来,让重复请求越来越便宜、越来越快。
竞争点转向治理能力
文章举例称,大型企业若把 AI 代理用于销售或客服,每天可能产生数千次交互。若每次都把未经整理的原始数据直接送入大模型提示词,token 消耗可能高出 5 到 10 倍。按每百万 token 10 至 15 美元计算,成本会随着代理数量迅速累积。
文章认为,下一阶段企业 AI 的竞争,不在于谁买到更多 token,也不在于谁使用更大的模型,而在于谁能把 AI 使用过程变成可治理、可衡量的业务能力。真正的优势来自更干净的数据基础、更清晰的权限体系,以及更精细的模型调度。
补充信息:文中作者为 Salesforce 副总裁,文内同时提到 Informatica 主数据管理与 Salesforce Data 360 的集成案例,用以说明其对企业数据底座的判断。
评论 (5)
企业AI降本不能只盯着便宜模型,得解决那五个浪费环节,把使用过程变成能治理衡量的业务能力才行
上下文膨胀、数据访问没治理这些问题太影响企业AI效率了,得好好解决
系统得有持续记忆,减少重复计算,降本效果才明显
把提示缓存这些结合起来复用重复请求,企业AI成本能降不少
企业别老用最贵的前沿模型做所有任务,模型错配成本太高