AI上下文层:为何部署越多,错误越多?

一家企业专门构建了受管上下文层,旨在阻止其AI智能体自信地给出错误答案。然而,一旦该层投入使用,企业报告的失败率反而上升了—而非下降。
过去六个月中,68%的企业已将自信但错误的AI智能体答案追溯到缺失或不一致的业务上下文。其中37%表示这种情况发生多次,超过仅发生一次的企业比例(32%)。这些数据来源于2026年7月VB Pulse对101家超过100名员工的企业进行的调查。相比之下,在6月进行的VB Pulse调查中,这一比例为57%。重复失败率也从当时的31%上升至现在的37%。
这是VB Pulse第二次向企业提出完全相同的问题,一次在6月,一次在7月。尽管有更多企业报告在生产环境中部署了受管层(从6月的25%上升至32%),但失败率仍在攀升而非下降。
智能体获取上下文的方式决定其正确性
每个AI智能体都需要某种方式来了解业务的实际含义,无论是指标定义是否一致,文档是否最新。这就是操作层面。挑战在于,企业向智能体提供上下文的方式各不相同,而这些方式的可靠性并不对等。
基于文档的检索仍然是最常见的方法,是31%企业的主要来源。但相当一部分企业完全跳过了结构化方法。13%的企业主要通过长上下文加载运行智能体,将文档直接输入模型的上下文窗口,而非检索它们。5%的企业不给智能体任何结构化上下文,仅依靠模型的通用知识。这两类企业加起来,近五分之一的企业正通过蛮力方式向智能体提供业务上下文,或者完全不提供。
即使是领先的方法仍可能产生自信的错误答案。检索通过将问题与在意义上看起来相似的文本相匹配来工作。相似的措辞并不能保证相同的含义。Redis的AI研究负责人Srijith Rajamohan在今年早些时候接受VentureBeat采访时精确描述了这一差距。
“如果你有一句话’Rome is closer than Paris’,另一句说’Paris is closer than Rome’,然后你进行嵌入检索 followed by 文本搜索,你将无法区分这两者的差异,”Rajamohan说,”这两句话中存在相同的单词。”
采购转向访问控制,评估却未跟上
企业选择检索系统的方式无助于缩小这一差距。访问控制和权限现在与数据摄入的便捷性并列成为首要选择标准,各占24%。这是在该调查系列中,治理属性首次主导购买决策。检索准确率仅排在15%。与企业自信错误答案最直接相关的属性,并非大多数企业采购时所关注的属性。
系统运行后,正确性仍是企业评判的标准。响应正确性是38%企业的首要成功指标,是第二接近的答案(安全和访问控制,占19%)的两倍。企业在采购方式上正转向治理,但仍根据答案是否正确来评估成功。
积极解决问题的企业反而报告最严重的失败
受管上下文层旨在解决这一问题。它是企业数据含义的单一共享、一致模型,每个智能体和BI工具都参考该模型,而非自行猜测。采用率远未确定。
32%的企业在生产环境中运行此类层。31%的企业正在试点或构建此类层。20%的企业正在评估。14%的企业没有实施计划,4%表示不确定。
将采用数据与实际经历过失败的企业对比,情况则相反。在91家能够明确表示是否经历过此类失败的企业中,运行或构建受管层的企业报告重复失败率为50%。没有此类层的企业报告率为21%。
受管层并非导致失败—它首次使失败变得可见。将错误答案追溯到错误的定义或过时的表格,需要共享的、受管的参考点。上下文层提供了这一点。没有它,同样的错误答案仍会发生—只是被归咎于模型,或根本未被追溯。
这一痛点在AI出现前就已存在数十年。语义层创业公司Credible Data的创始人Kyle Nesbit上月向VentureBeat描述道:”这是人们30年来一直面临的痛点,缺乏受管数据分析,”Nesbit说,”现在有了AI,是同样的问题,但数量级更多的混乱和痛苦。”
企业规模强化了这一观点。超过1000名员工的企业报告的重复失败率为55%,而101至1000名员工的企业为30%。尽管大型企业已部署生产环境层的可能性较小(24%对37%)。更多的工具和更多的人询问数字为何错误,会暴露更多失败,而非减少。干净的记录并非健康上下文层的证据。它至少同样可能是无人检查的证据。
这对企业的启示
这对构建此类层的企业意味着以下几点:
- 仅靠检索无法解决上下文差距。 RAG仍然是默认的上下文来源,近五分之一的企业通过长上下文加载或完全不提供结构化上下文层来运行智能体。更多的文档或更大的索引无法解决在不同系统中含义不同的定义问题。
- 预算投入速度超过基础设施部署速度。 63%的企业已在构建或运行受管上下文层,但只有32%已将其投入生产。资金投入的差距与问题已解决的差距不符。
- 无失败记录是危险信号,而非良好标志。 报告无上下文失败的22%企业并非治理最好的群体。他们是最可能不进行检查的群体。规模数据直接支持这一观点。大型企业报告的重复失败率几乎是中型企业的两倍,尽管它们在生产环境中部署受管层的可能性更小,而非更大。
- 无人计划将此层交给单一供应商。 79%的企业计划将至少部分上下文层保留在任何单一供应商的堆栈之外,分布在最佳工具和明确混合方案之间。仅12%的企业计划整合到单一供应商的原生上下文堆栈。
企业不太可能将控制权交给单一供应商是VentureBeat今年持续报道的主题。Constellation Research的分析师Michael Ni在DataHub的上下文层推广首次出现时,今年早些时候直言不讳地表示:” whoever controls runtime context, controls the AI decision layer for enterprises”。
关注微信号:智享开源,及时了解更新信息。


公众号:智享开源
还没有任何评论,你来说两句吧!