智能体的上下文鸿沟：企业AI的信任难题
在101家企业的调查中，为AI智能体提供业务上下文的基础设施建设速度已超过其信任度。检索增强生成(RAG)已成为默认的上下文来源，而提供商原生存取已悄然超越了定义该类别的专用向量数据库——然而大多数企业已经目睹其智能体因上下文缺失或不一致而产生自信的错误答案。受控语义层正在成为解决方案，但大多数企业仍在构建它；该领域正转向混合检索；尽管提供商原生工具在实践中领先，但仍有相当一部分企业表示他们打算保持最佳独立方案。结果形成了上下文鸿沟——智能体听起来权威，但其基础是所有者尚未完全信任的。
研究背景
本次企业级AI调查研究聚焦于RAG和上下文层：什么为AI智能体提供业务上下文、企业使用哪些检索系统、如何购买和评估这些系统、架构发展方向，以及最引人注目的是——上下文失败的频率。
核心发现是一个上下文鸿沟——企业智能体回答的自信程度与其实际依赖的上下文可靠性之间的差距。大多数企业(57%)报告称，在过去六个月中，他们的AI智能体产生了自信但错误的答案，而这些答案可追溯至缺失或不一致的业务上下文，其中超过一半表示这种情况发生不止一次。这不是边缘性失败：38%的企业将检索作为主要上下文来源，超过任何其他方法，因此当检索信息不足或不一致时，它产生的错误会披上智能体权威的外衣。修复它的基础设施正在构建中——58%的企业已经运行或正在构建受控语义层——但对大多数来说，它尚未投入生产。
市场趋势
令人惊讶的是，市场正朝着整合方向发展。提供商原生存取——OpenAI的文件搜索(40%)和Google的Vertex AI搜索(38%)——已经领先于所有专用向量数据库，企业预计混合检索将在2026年底占据主导地位(34%)。然而，相当一部分(36%)的企业表示他们打算保持最佳独立工具，而不是整合到提供商的原生上下文堆栈，而多数(57%)计划在一年内切换或添加提供商。陈述的偏好和实际使用方向相反——市场正在购买提供商原生解决方案，同时坚持要求独立性。
研究方法
本次调查作为企业级AI研究系列的一部分进行。样本聚焦于员工超过100人的组织(n=101)；按组织规模划分，样本集中在中型市场：251-1,000名员工(31%)和101-250名员工(31%)占主导。按角色划分，包括经理(39%)、个人贡献者(27%)、C级高管(16%)以及副总裁和总监(14%)。技术/软件是最大的行业，占20%，其次是医疗保健/生命科学(11%)，以及零售、运输、金融服务、制造和教育行业的广泛分布。
在101名受访者中，这是一个适度的样本，应被视为方向性信号而非精确测量；最好将其理解为积极建立RAG和上下文基础设施的组织的观点。
发现一：自信而错误
超过半数企业将智能体错误归因于不良上下文
大多数企业(57%)已经遇到过AI智能体产生自信但错误的答案，而这些答案可追溯至不良上下文——错误的指标、过时的定义或缺失的文档——其中超过一半表示这种情况发生过不止一次。只有28%的企业报告没有此类失败，其余一小部分要么不在企业数据上运行智能体，要么没有足够密切地追踪根本原因。
这种失败模式既具体又危险：模型并非明显地产生幻觉；它自信地给出错误答案，是因为为其提供上下文的信息不足或不一致。本报告中的所有其他内容——企业检索的内容、他们如何管理上下文以及计划构建的内容——都是这一问题的下游影响。
发现二：RAG是默认的上下文来源
检索比任何其他方法都更多地支持智能体
对于38%的组织，RAG通过文档或向量索引是智能体理解业务的主要方式——几乎是下一个方法(受控语义层或本体论，占21%)的两倍。混合方法(14%)、直接实时系统查询(10%)和长上下文加载(6%)构成了其余部分，只有2%的智能体仅依靠模型的通用知识运行。
鉴于上下文的重要性，这种集中度很关键：由于如此多的企业上下文通过检索流动，检索的质量就是答案的质量。当RAG是默认来源时，检索不足不是边缘案例——它是主要的故障面。
值得注意的是，定制模型权重(微调)已从主要选择讨论中退出；上下文注入是企业使智能体了解其业务的方式。
发现三：提供商原生检索已领先于向量数据库
OpenAI文件搜索和Vertex AI搜索领先于专用工具
专用向量数据库不再是RAG堆栈的中心。OpenAI的文件搜索(40%)和Google的Vertex AI搜索(38%)领先——提供商原生和超大规模服务商原生存取——领先于所有专为向量数据库设计的工具。
在专业工具中，使用最多的是企业已因其他原因运行的工具(Elasticsearch/OpenSearch，20%)和开放嵌入式选项(pgvector，12%)；定义该类别的纯向量数据库——Weaviate、Qdrant、Pinecone、Milvus——各自的使用率都在个位数到低两位数。值得注意的是，13%的企业表示他们目前仍未在生产中运行任何RAG系统。企业倾向于采用与已购买工具捆绑在一起的检索方案。
关注微信号：智享开源 ，及时了解更新信息。
公众号：智享开源
还没有任何评论，你来说两句吧！