企业AI支出增速引发成本管控需求 Denodo建议从数据层优化Token效率

2026-09-01 02:39:44 大公网 作者:石华
字号
放大
标准
分享

近期,谷歌宣布为企业客户提供AI支出月度上限管理功能,可设定智能体API调用阈值,以应对预算超支风险。丹诺德(Denodo)全球销售副总裁兼大中华区总裁何巍表示,企业 AI 正从粗放试用走向精细运营,考核标尺也需要从调用量转向单位任务的有效产出。通过数据基础设施减少无效Token消耗,是提升AI投入产出比的一条重要路径。

Denodo全球销售副总裁兼大中华区总裁何巍

从“放开用”到“算着用”,企业开始追问AI回报

Token是模型处理和生成信息的基本计量单位。普通单次问答消耗相对可控,但智能体完成一项任务,往往需要规划步骤、检索数据、调用工具、反复推理并校验结果。每增加一个环节,都会带来新的Token消耗。

更难管理的是,一次点击背后可能隐藏着多轮调用。智能体会将任务指令、历史对话、检索文档和工具返回结果带入下一轮推理。上下文越长、循环次数越多,企业越难从最终账单中判断哪些消耗确有必要。

“Token本身不是业务成果,只是AI完成任务所付出的成本。”何巍说,企业真正需要衡量的,不是员工使用了多少Token,而是AI有没有实现流程缩短、营收提升、风险降低或者人力节约。

这也意味着,简单设置调用限额并非最终答案。限制过严,可能压缩有价值的应用;如果只强调多用,又可能产生大量无法对应业务回报的消耗。企业需要进一步追问:Token究竟花在了哪里?

看不见的“Token税”,可能藏在数据进入模型之前

面对不断增加的Token消耗,很多企业首先想到的是调整模型或压缩提示词。但Denodo近期发布的《更低成本,更高信任:代理AI的新经济学》白皮书提出,部分无效Token消耗的源头可能位于企业数据层。

现实中,企业数据分散在数据库、数据湖、SaaS应用、API、文档和向量数据库中,不同系统还采用不同的数据结构、业务定义和权限规则。智能体在回答问题之前,可能需要反复查找数据入口、读取元数据,并判断哪些信息可以使用。

“企业看到的是一张Token账单,账单背后,包含大量找数、试错和重复计算带来的消耗。”何巍表示,智能体真正用于解决业务问题的Token只是一部分,另一些消耗来自低效的数据供给方式。

举例来说,数据孤岛会让智能体在多个平台间反复检索;业务语义不一致,造成查询路径反复调整;大量未经筛选的原始数据进入上下文,会增加无关信息处理;本应由数据库完成的过滤、关联和聚合,如果交给大模型执行,也会产生额外消耗。

这些浪费还会在智能体的多轮任务中被放大。前期检索的冗余材料、工具返回结果甚至错误信息,会随着上下文进入后续步骤,被反复传递和计算。

何巍将这类额外消耗称为“Token税”。“企业支付的不只是模型完成任务的成本,也可能在为数据碎片化、语义不一致和重复处理买单。只控制调用次数,没有改变数据进入AI的方式,浪费仍会在下一次任务中出现。”

从数据层减少无效消耗,让每个Token更接近业务价值

针对上述问题,Denodo提出在企业数据源与智能体之间搭建“AI数据层”。这套方案并非新建集中存储平台,而是在数据送入大模型之前,完成数据连接、语义统一、权限管控、上下文过滤。

首先,AI数据层连接分布在本地、云端和业务系统中的数据,减少智能体反复寻找和适配数据源;其次,通过统一语义,为“客户”“收入”等指标提供一致定义,降低反复试错;过滤、关联和聚合等确定性计算工作,则尽可能前置在数据层完成。

更为关键的是按需供给数据。AI数据层根据任务和用户权限,只向模型提供当前场景真正需要的信息,避免无关数据和敏感内容进入上下文。

“值得治理的不只是已经产生的Token,还有那些本可以不进入提示词的Token。”何巍表示,给智能体的数据越精准、业务含义越清楚,它越有可能以更少的检索和试错完成任务。

Denodo披露的某大型保险企业实践提供了一个观察样本。该企业每月执行约50万次智能体任务,平均包含6轮上下文交互。引入统一数据层后,其每月数据访问Token由约426亿个降至61亿个,减少约85.7%。同期,理赔数据准备由2至3周缩短至1至2天,风险报表生成由3至5天缩短至10至15分钟。

这一结果当然不意味着所有企业都能获得相同比例的降幅,但说明Token成本与数据供给方式存在直接联系。减少无效Token也不是单纯“省钱”,更重要的是让数据访问更快、更可控,并使AI输出建立在一致的业务定义之上。

企业开始精打细算,并不意味着AI应用降温,恰恰说明 AI 从试验试点走向规模化商业运营。调用限额可以控制账单,但真正决定长期投入产出比的,则是企业能否减少重复找数、无关上下文和低效计算。

“AI进入算账时代后,比拼的不再是谁消耗了更多Token,而是谁能让每个Token更接近真实业务价值。”何巍说。