企业AI智能体错答频发,上下文层成关键

17 小时前 暂无评论 阅读 22 次
收听本文语音

企业AI智能体错答频发,上下文层成关键

企业AI智能体时常充满自信地给出错误答案,这种问题往往难以察觉,直到有人追溯到过时的指标定义或检索系统未能获取的文档。实际上,失败的不是模型本身,而是它所获得的上下文信息。

根据VB Pulse在2026年6月对101家拥有100名以上员工的企业进行的调查,在过去六个月中,57%的企业将自信但错误的AI智能体答案归因于缺失或不一致的业务上下文,其中31%表示这种情况已多次发生。

问题的根源不难发现。在38%的企业中,通过文档检索已成为智能体获取业务上下文的主要方式,这一比例几乎是第二名方法的两倍。更糟糕的是,大多数企业在选择检索系统时,将易用性和操作简便性作为首要标准,而检索准确性则被排在后面。这种选择标准导致准确性问题在系统上线后才会暴露出来。

针对这一问题,业界已有明确解决方案——一个受控的上下文层,所有智能体都应从中获取信息而非自行猜测。然而,尽管供应商们正竞相推出各类上下文平台,但大多数企业仍在摸索理解这一概念。

75%企业尚未部署智能体上下文层

上下文层旨在成为一个共享的业务数据含义模型,只需构建一次就能被所有智能体一致引用,无需每个接触它的智能体重新推导。

调查显示,企业对这一概念的反应广泛但尚未完成。25%的受访者已在生产环境中部署了受控上下文层;34%的企业正在构建中;剩余41%尚未开始相关计划。

有趣的是,在已经构建或运行受控上下文层的企业中,78%报告了”自信错误”故障——即AI智能体虽充满信心地回答但答案仍然错误。而在没有构建层计划的企业中,只有20%报告了类似问题。这表明,已经吃过亏的企业更有可能积极寻求解决方案,而尚未遭遇问题的企业则缺乏紧迫感。

各厂商的上下文层解决方案

如今,每一家主要的数据和AI平台厂商都在构建某种形式的上下文层,但它们并未采用相同的架构。

  • DataHub将目录元数据和多年的分析师查询行为作为知识源,并将其作为动态系统保持最新状态,而非静态维基。
  • 微软的Fabric IQ正在构建一个业务本体论,任何智能体(不仅是微软自己的)都可以通过MCP进行查询。
  • Couchbase将智能体记忆和上下文检索推向边缘,主张操作数据库是比事后添加的搜索或分析层更自然的场所。
  • Pinecone的Nexus将结构逻辑预编译到元数据层中,认为智能体需要的预构建结构比更快的搜索更重要。
  • Snowflake采用双层系统,Horizon Context用于客户管理的定义,Cortex Sense用于平台自行推断的上下文。
  • Oracle的Unified Memory Core采用相反的方法,将向量、图和关系数据合并到一个事务引擎中,消除可能过时的同步层。
  • Google的Knowledge Catalog挖掘查询日志和使用模式,自动整理语义上下文。
  • AWS的Context服务采用类似策略,构建一个知识图谱,通过智能体的实际使用而非人工重新策划来变得更智能。

分析师诊断趋同

尽管供应商的方法各不相同,但分析师和从业者对潜在问题的诊断却高度一致。

当DataHub的上下文层倡议于今年春季推出时,Constellation Research副总裁兼首席分析师Michael Ni直接阐明了利害关系:”谁控制运行时上下文,谁就控制企业数据的AI决策层。”对于任何单一产品实际能带给买家的价值,他也同样直言不讳:”向量记忆不是业务含义,业务含义不是治理,治理也不是执行。”

在同一次采访中,BARC分析师Kevin Petrie指出了一个更具体但狭窄的差距。大多数上下文平台专注于结构化表格,他说,这些表格为智能体提供了可信的事实,但却遗漏了文档和非结构化内容中更复杂、更混乱的上下文,而这恰恰是企业日常运营所依赖的材料。

HyperFRAME Research AI实践负责人Stephanie Walter在VentureBeat今年早些时候向她询问企业上下文碎片化问题时提出了相关观点。

“市场正 converging on the same conclusion,”Walter说。”智能体不仅需要更多的token或更好的模型,它们还需要受控的、最新的、低延迟的上下文。”她在早些时候对Pinecone的Nexus发布的评论中提出了类似观点,谨慎不过分强调任何创新的全新性。Nexus,她说,”将知识工作从运行时混乱转变为预编译结构。但这是对RAG架构的演进,而非彻底的重新发明。”

Gartner的Arun Chandrasekaran在评论同一发布时提供了更具前瞻性的解读。他说,智能体AI正从纯信息检索向推理架构转变,在这种架构中,长上下文作为短期工作记忆,向量数据库则作为深层存储。

在实践层面,碎片化问题最为明显,因为单独的检索、记忆和访问控制工具从未被设计为能够相互协作。HyperFRAME Research首席执行官兼首席分析师Steven Dickens在Oracle今年春季推出AI数据库后直言不讳:”数据团队已因碎片化疲劳而精疲力竭。仅为了运行一个智能体而管理单独的向量存储、图数据库和关系系统是DevOps的噩梦。”

Moor Insights and Strategy的Matt Kimball在同一报道中更简单地概括了生产现实。让智能体工作并不困难,他说,真正困难的是在生产环境中运行它,在那里…

在AI智能体应用日益普及的今天,企业需要认识到上下文层的重要性,并积极部署相应解决方案,以避免自信错误的智能体给业务带来潜在风险。


关注微信号:智享开源 ,及时了解更新信息。


评论列表
发表评论
😀 😂 😃 😄 😅 😆 😉 😊 😋 😎 😍 😘 🥰 😜 😝 🤗 🤔 😭 😤 👍