智能体为何自信犯错?企业AI的上下层难题

业AI智能体正面临一种新型生产失效模式,问题根源并非模型本身。随着企业从单层RAG检索体系过渡至混合检索架构,相同的底层数据会因不同智能体、工具或系统提问而生成相异答案。在商业智能(BI)仪表板中,”收入”一词有其特定内涵;在SQL表中,其语义略有差异;而在智能体指令中,其含义又另当别论。过去两年,检索基础设施的构建提升了向量搜索的速度与经济性,却未能形成对数据含义的统一共识。

在旧金山举行的Snowflake Summit 26大会上,这家数据云提供商正全面应对此挑战,宣布了一系列产品更新,包括名为Data Stream的Kafka兼容托管流服务、自适应计算性能提升、Apache Iceberg互操作性扩展,以及其Cowork和CoCo智能体及编程工具的升级。所有这些技术背后是一个上下文层:Horizon Context与Cortex Sense,这是一个双层系统,旨在为智能体在检索堆栈中提供统一的业务逻辑管理定义。上下文问题之所以关键,依据VentureBeat的VB Pulse 2026年第一季度数据(来自100名以上员工组织的调研)显示,混合检索意图从1月的10.3%激增至3月的33.3%,成为数据集中增长最快的战略方向。

“市面上有许多工具,当你提问时,会得到非常确信的答案,但这些答案是否正确则是另一回事,”Snowflake产品执行副总裁Christian Kleinerman表示。

从碎片化业务逻辑到受管上下文层

Horizon Context针对的问题相当具体。当今的业务逻辑分散于SQL、BI仪表板和智能体指令中,没有单一系统掌握定义权。当多个智能体或工具查询相同底层数据时,它们基于不同模式推理并返回不同答案。Horizon Context是Snowflake尝试在目录层而非智能体层解决这一问题的方案。

Horizon Context

这是客户管理层,基于Snowflake收购Select Star构建。它将元数据从Postgres、SQL Server、Tableau和Power BI导入Horizon目录,使每个智能体、BI工具和外部系统都能从相同受管定义中获取信息,而非独立于原始物理模式进行推理。语义视图自动飞行器随时间推移自动创建和优化语义视图,扩展策划的业务逻辑,无需持续手动干预。

Cortex Sense

这是平台派生层。它根据客户数据和持续的使用模式自动构建和丰富上下文,无需手动编写语义视图。Kleinerman将其描述为在任何明确策划发生前改善默认体验的方式。

这两个层间的差异是架构性的,Kleinerman对此有清晰界定:”将Horizon Context视为客户明确声明的一切,而Cortex Sense则是我们推导出的任何隐含内容,”Kleinerman说道。

这两个层连接到Snowflake现有检索基础设施。Cortex Search(公司的RAG实现)作为工具插入到CoCo和Cowork中,因此任何一层丰富后的上下文都会流入检索工作流。

虽然Horizon Context是Snowflake的技术,但目标在于实现互操作性和开放性。Snowflake正将技术与开放语义互操作(Open Semantic Interchange)绑定,使客户声明的定义可在第三方目录和工具间移植。

“Horizon Context,我们100%致力于确保它不会被锁定,”Kleinerman强调。

上下文层无处不在,真正有效的才是关键

Snowflake正加入日益增多的供应商行列,它们都瞄准相同问题。Microsoft已通过MCP开放其Fabric IQ业务本体,使任何供应商的智能体都能从共享语义层获取信息。Redis推出Iris,这是一个位于智能体与数据之间的上下文和记忆平台,基于为智能体规模检索量重新设计的存储引擎构建。Pinecone正从向量数据库转型为知识引擎,推出Nexus,在智能体查询前将企业数据编译为任务特定工件。

IDC研究主管Devin Pratt向VentureBeat表示,在他看来,Snowflake正朝着正确方向迈进,符合整个市场发展趋势。

“智能体的质量仅取决于其背后的数据和语义,因此上下文层而非模型是当前需要关注的焦点,”Pratt指出。

Pratt认为,Snowflake版本的优点在于其分层设计。Horizon Context涵盖团队自行声明和策划的内容,Cortex Sense涵盖平台自动获取的内容。同样重要的是,他们将Horizon Context锚定在目录和治理层,而非事后添加。

“上下文层是智能体AI的真正战场。智能体的可信度仅取决于其背后的数据和语义,”Pratt强调。

Moor Insights and Strategy的副总裁兼首席分析师Mike Leone也认同对这两个层进行差异化处理是正确的架构决策。

“我欣赏Snowflake的发展方向。他们将上下文分为两个部分:Horizon Context涵盖客户明确定义的内容,Cortex Sense涵盖平台自行发现的内容,”Leone告诉VentureBeat。”你不能以相同方式信任这两者,因此差异化处理是明智选择。如果Snowflake能展示这两个层可以无缝整合,且能追溯每个答案的来源,他们就拥有了真正有价值的产品。”

这对企业的启示

对于评估上下文层的企业而言,架构方向已清晰,但执行差距仍存。

智能体提高了旧问题的门槛

语义层概念已存在多年,但智能体改变了失效的代价——当智能体大规模给出错误答案时,损害是即时性的。Leone直接点明这对当前市场大多数供应商的意义。

“大多数销售即插即用解决方案的供应商都过度承诺了,”Leone指出。”将其投入实际企业环境,主要暴露的是数据和定义的混乱程度,许多公司将被迫通过艰难方式认识到这一点。”

评估标准明确

Pratt区分了有效与停滞的上下文层:内置的治理和血统,使团队能审计智能体给出特定答案的原因;可移植性,确保上下文和策略不被锁定在单一供应商处;以及可在智能体和工具间测量和复用的准确性。

“企业不需要另一个语义孤岛,”Pratt总结道。”他们需要一个受管、可移植且足够可信以便审计的上下文层。”


关注微信号:智享开源 ,及时了解更新信息。

原文链接:https://venturebeat.com/data/ai-agents-keep-giving-confident-wrong-answers-the-context-layer-is-enterprise-ais-next-production-problem

评论列表
 
 
发表评论
😀 😂 😃 😄 😅 😆 😉 😊 😋 😎 😍 😘 🥰 😜 😝 🤗 🤔 😭 😤 👍

为你推荐
Ta的个人站点

Mark Do发布文章1404篇


关注微信

分类