Denodo:Token消耗暴涨后,治理无效浪费的解法在数据底层

2026年07月31日,21时44分17秒 国内动态 阅读 6 views 次

来源:环球网

【环球网科技综合报道】AI 规模化普及之下,Token 作为大模型信息处理计量单位,成为基础核心资源。在 Token 经济中,企业 AI 的成本、效率与价值创造均依托 Token 的获取、分配、消耗、治理,精细化管控 Token 是企业智能化运营的核心议题。

智能体深度融入企业核心业务场景,促使 AI 应用由对话交互模式转向任务执行模式,Token 消耗呈现指数级扩张趋势。据中国工程院院士、清华大学计算机科学与技术系教授郑纬民判断,单智能体的Token消耗量可达传统对话应用的百倍至千倍级。IDC同时预测,2026年我国企业级Token消耗量将同比增长约20倍,达到4万万亿,即日均消耗110万亿。

丹诺德(Denodo)全球销售副总裁、大中华区总裁何巍提出,当前企业的关注点已经发生变化。比拼的不再是谁用掉更多的Token,而是谁能够让单个Token创造更多价值。越来越多企业意识到,那些没有产生业务价值、却持续推高AI成本的Token,也就是企业正在缴纳的“Token税”,需要得到治理。

Denodo:Token消耗暴涨后,治理无效浪费的解法在数据底层

Token的无效浪费根源在数据层

Denodo最新发布的《更低成本,更高信任:代理AI的新经济学》提出,导致大量Token无效消耗的重要根源,其实藏在企业数据层。

何巍解释道,“现实中的企业数据,并非集中存放于一个数据库,而是广泛分布于数据仓库、数据湖、业务系统、SaaS应用、API接口、文档以及向量数据库等不同平台,并且它们使用不同的模式、业务定义、访问方法和安全策略。当Agent逐个访问这些数据源时,往往还没开始回答业务问题,就已经承担了相当可观的‘Token税’。”

他补充称,具体而言,Token的浪费发生在四个层面。

一是重复的数据发现。面对分散的数据资产,Agent需要反复访问不同平台,读取Schema、元数据和Catalog,不断寻找真正可用的数据入口。在企业拥有数百个数据源的情况下,这些重复的数据发现过程会消耗大量Token,而真正用于回答业务问题的Token反而只占其中一部分。

二是企业将本应由数据库完成的工作,交给LLM执行。不少企业为了快速接入AI,直接将大量原始数据送入大模型,由LLM完成数据关联、过滤、聚合和计算。本应由数据库查询引擎完成的确定性计算,却交给了成本更高的大模型处理。正如白皮书提出的观点:“不要花LLM的钱,去完成查询优化器更擅长的工作。”

第三类浪费,来自业务语义不统一导致的反复试错。在不同业务系统中,“客户”“收入”“风险”“活跃账户”等指标往往采用不同定义,缺乏统一业务语义。Agent只能不断尝试不同查询路径,反复修正结果,不仅降低回答效率,也持续推高Token成本。

最后一类浪费来自过度检索。大量与当前任务无关的、受限的或不必要的详细数据,随着检索结果进入模型上下文,既增加了Token消耗,也同步放大了数据安全和合规风险。白皮书指出,真正安全、也最节约成本的Token,是那些从未进入Prompt的Token。

值得关注的是,发生在数据层的浪费并非简单相加,而是具有明显的“复利效应”。

与传统聊天机器人不同,Agent通常需要经历多轮推理和工具调用,每一轮都会携带上一轮上下文继续执行任务。前期检索的大量原始数据、工具返回结果甚至错误信息,都可能持续保留在上下文窗口,在后续多个步骤中被反复传递、重复计算。一次看似不起眼的数据冗余,经过多轮任务循环后,最终会演变为数倍乃至数十倍的Token成本。

因此,企业今天看到的只是不断上涨的Token账单,而真正的问题,却隐藏在数据进入AI之前。从这个意义上说,所谓“Token税”,本质上是企业落后数据架构向 AI 时代缴纳的“效率税”。企业支付的并非模型能力本身的费用,而是在为低效的数据流动、重复计算、语义不一致以及无效上下文所产生的大量额外Token买单。

减少“Token,企业需要将优化重点前移到数据层

何巍认为,Token 税问题根源在数据层,治理重心应当前移至数据环节,首要优化方向是数据接入 AI 的方式。

Denodo提出的“AI数据层”理念,正是基于这一思路。其核心目标,是避免让Agent直接面对海量、分散的原始数据,而是在数据进入AI之前,提前完成数据连通、语义统一、权限控制和上下文优化,为智能体提供轻量化、可信、业务就绪的数据。

全域联通和零拷贝实时访问,是指通过搭建一个逻辑层,将原本分散在不同平台的数据统一组织起来,无需重复搬迁和复制数据,即可实现跨系统实时访问。数据的过滤、连接和聚合操作,全部在数据层内部解决,而不是让成本更高的大模型去执行。统一语义,则让不同业务系统中的数据拥有一致的业务定义,避免Agent因语义差异反复试错。再结合集中治理能力,在数据进入上下文之前就完成权限过滤、敏感信息控制和数据裁剪,仅向Agent提供当前任务真正需要的数据。

Denodo:Token消耗暴涨后,治理无效浪费的解法在数据底层

“这样的解决方案,让Agent不再需要处理大量原始数据,而是直接获得经过组织、治理和压缩的业务上下文。数据越精准、上下文越紧凑,Agent需要消耗的Token就越少,同时回答质量和数据安全性也得到同步提升。”何巍说道。(青山)

标签:


用户登录