智能体评估鸿沟：现实对齐难题与企业部署现状
评估差距：企业面临的对齐问题
通过对157家企业的调查发现，组织正在授予AI智能体更多自主权，同时却越来越不信任用于管控这些自主权的评估体系。半数企业已经部署了通过内部评估但在客户生产环境中失败的智能体；只有二十分之一的企业目前完全信任自动化评估；而最常被提及的弱点是评估与现实结果不匹配。然而，三分之二的企业已经允许或正在积极构建仅依靠自动化评估就部署智能体变更到生产环境的流程，无需人工介入。
这种评估差距——企业给予智能体的自主程度与他们对用于捕捉失败的测试的信任程度之间的距离——正在不断扩大。
调查方法与背景
本次调查作为VentureBeat Pulse Research系列研究的一部分，特别关注技术领导者如何衡量智能体性能：他们使用的可靠性和评估平台、如何选择和信任这些平台、生产环境中的故障情况，以及他们愿意让智能体在没有人工介入的情况下运行的程度。
调查样本为157家拥有100名以上员工的企业，数据收集于2026年6月的一次调查中。由于这是单次调查而非多月汇总样本，报告采用横截面分析，不推断月度趋势。对于多选题，各选项比例总和可能超过100%。
按角色划分，样本具有高级决策权：38%是AI采购的最终决策者，另有34%是推荐人或影响者。产品与项目经理(15%)、顾问(10%)、工程/IT总监(8%)以及CIO/CTO/CISO(8%)是主要职位，另有37%为其他职能。
核心发现：评估通过不等于智能体可用
半数企业已部署评估通过但客户失败的智能体
我们询问了组织在过去12个月内是否部署了通过内部评估但在客户面前失败的智能体或LLM功能。半数进行了评估的组织确实遇到了这种情况。
这是报告中的关键数字：50%的组织已经部署了通过了内部评估但在客户面前失败的AI功能——错误输出、工作流中断或质量事故，四分之一的企业已经发生过不止一次。只有36%报告没有此类故障，其余要么不进行预部署评估(8%)，要么未密切跟踪根本原因而无法确定(6%)。这种故障是精确且昂贵的：评估表明智能体已准备就绪，但实际上并非如此。后续的一切——企业如何信任其评估、他们监控什么以及他们授予多少自主权——都受到这一经历的影响。
发现2：几乎无人完全信任自动化评估
主要投诉：评估与现实结果不匹配
我们询问哪项限制目前最降低对自动化智能体评估的信任度。几乎没有企业完全没有抱怨。
对自动化评估的信任稀少且具体。只有5%的组织表示他们完全信任当前的自动化评估——这意味着95%指出了限制他们信任的因素。最常见的是29%的企业认为：评估与现实结果不匹配，通过了后来失败的智能体。其次是偏见或不一致性(21%)和缺乏可解释性(18%)——企业并不总能判断评估为何得出结论——还有17%提到评估过程中的数据泄露或隐私问题。本应认证智能体的测试尚未被信任能够完成这项工作，这正是发现3中的自主性轨迹如此引人注目的原因。
发现3：自主性上限仍在提升
三分之二企业已允许或正在构建零人工部署
我们询问组织是否会允许自主智能体仅根据自动化评估结果就部署代码或系统变更到生产环境，无需人工介入验证。这一趋势直接穿越了信任差距。
这是报告核心的悖论。尽管几乎没有人完全信任自动化评估(发现2)，但三分之二(66%)的企业要么已经允许对低风险智能体进行零人工介入部署(34%)，要么正在积极构建其流程以在一年内允许这样做(33%)。只有22%明确在可预见的未来排除这种可能性。方向是明确的：企业正在转向让评估自主管控生产环境——移除人工检查——与此同时，他们说这些评估并不能可靠地匹配现实。自主性上限的提升速度超过了其下方的保障速度，这将是发现1中错误自信故障规模扩大而非缩小的机制。
值得注意的是，自主性押注并非仅限于小公司现象。按公司规模划分，大企业的零人工审查进程略领先于小企业(70%对64%)，也更有可能部署了评估通过但客户失败的智能体(54%对48%)。关于大型受监管组织会最长保留人工介入的假设，在本样本中是反向的。
关注微信号：智享开源 ，及时了解更新信息。
公众号：智享开源
还没有任何评论，你来说两句吧！