智能体安全鸿沟:54%企业已遇事故

智能体安全现状:隐患已现
针对107家企业的调查显示,AI智能体正在被赋予系统和数据的真实访问权限,而相应的管控措施却明显滞后。超过半数的企业已经经历过确认的智能体安全事件或险些酿成事故的情况;仅有约三分之一的企业为每个智能体提供独立的限定身份,大多数智能体仍在共享凭证;只有三成的企业会对高风险智能体进行隔离。安全防护措施大多直接采用模型提供商和超大规模服务商提供的方案,而非专门为智能体定制,相关支出仅占安全预算的一小部分,企业对于其防护措施能否跟上AI赋能攻击者的步伐看法不一。这形成了一个智能体安全鸿沟——智能体的自主扩张速度超过了所需的身份、隔离和执行管控措施。
研究方法
本次调查作为VentureBeat Pulse Research系列的一部分,专注于企业智能体安全——组织用于保障自主AI智能体的工具、身份、隔离和执行管控措施。调查筛选了员工超过100人的组织(n=107;排除了员工规模为1-100人的最小分组),数据来源于2026年6月的单一波次调查。由于这是单波次而非多个月份的汇总样本,报告采用横截面分析,不推断月度趋势。部分问题为多选题,因此各项比例总和可能超过100%。
从职位角度看,样本具有高级决策者属性:45%是AI采购的最终决策者,另有30%是推荐者或影响者。管理层(43%)、个人贡献者(24%)、副总裁和总监(15%)以及高管层(11%)构成了职级分布。按组织规模看,样本以中型企业为主:员工规模在251-1,000人的占42%,101-250人的占25%,1,001-5,000人的占19%,5,001-10,000人的占8%,10,001人以上的占7%。技术/软件行业占比最高,为23%,其次是制造业(15%)、零售/电子商务(14%)和医疗保健/生命科学(13%)。
在107名受访者中,样本规模足够提供方向性指导,但应将其视为方向性信号而非精确测量;该样本为自选样本,非概率抽样。样本倾向中型企业,因此最好将其视为积极建立智能体安全组织的观点,而非最大型运营商的观点。
满意度评分基于回答了每个评分问题的受访者;总体满意度评分反映了107名合格受访者中的82人。
发现一:安全事件已发生
超过半数企业已遭遇智能体安全事件或险些酿成事故
我们询问了企业是否经历过智能体安全事件——已确认的漏洞或未造成伤害的险些发生的事件。大多数在生产环境中运行智能体的企业都经历过。
这是报告的核心数据。超过半数的企业(54%)已经经历过智能体安全事件——18%为已确认的事件,36%为未造成伤害的险些发生的事件。只有42%的企业报告称没有发生任何事件,其余小部分企业要么没有在生产环境中运行智能体,要么未跟踪此类事件。如此多企业报告的是险些发生的事件而非已确认事件,这表明了一个重要问题:企业确实发现了问题,但都是在问题即将造成危害时才捕捉到。报告中后续探讨的身份、隔离、执行等管控措施,就是决定下一次险些发生的事件能否保持为”险些”的关键。
企业面临的威胁规模随公司规模扩大而增加,但管控能力并未同步提升。事件或险些发生事件的比例从中型市场(员工101-1,000人的公司)的49%上升到大型企业(员工1,000人以上)的63%,而高风险智能体的沙盒隔离比例则从35%下降到20%,安全工具满意度从4.36降至3.97。在最多系统中运行最多智能体的组织,经历的最多事件,却拥有最少的能限制事件影响范围的管控措施。
发现二:身份管理缺口
仅三分之一企业为每个智能体提供独立限定身份
我们询问了企业如何管理其AI智能体的身份——是每个智能体都有独立凭证,还是智能体共享凭证。完全的每个智能体独立身份是例外情况。
综合各重叠答案显示,69%的企业(107家中的74家)在智能体群体中的某处存在凭证共享情况。身份是造成事件的结构性弱点。仅有约三分之一的企业(32%)为每个智能体提供独立的限定、管理身份——这是实现最小权限访问和清晰归因的先决条件。近半数(48%)表示部分智能体有限定身份,但许多仍共享凭证,另有32%表示智能体主要在共享API密钥或借用的人类和服务账户凭证上运行。(受访者可以描述其智能体群体中的多种模式,因此这些答案存在重叠。)
直接后果是:当智能体共享凭证时,权限过高或被攻破的智能体可以超出预期范围进行操作,事件发生后的取证工作也无法清晰判断是哪个智能体做了什么。非人类身份问题——为每个智能体提供独立的受控身份——是企业智能体安全中最大的未完成环节。
此外,企业的智能体凭证状况与事件发生率相关。在任何智能体群体中存在凭证共享的组织,在过去十二个月内遭遇事件或险些发生事件的比例为63.5%(74家中的47家)。而每个智能体都携带独立限定身份的组织遭遇此类事件的比例为40.9%(22家中的9家)。完全限定身份的群体规模较小,因此目前这种关系是关联性而非已证实的因果关系,且这一差距主要集中在中型市场——但在单一调查中,23个百分点的事件发生率差异表明了其显著性。
发现三:观察与执行,但很少隔离
仅三成企业对高风险智能体进行沙盒隔离
我们询问了企业的智能体安全实践情况——他们是否观察智能体活动,是否执行访问控制,以及是否对高风险智能体进行隔离。
结果显示,大多数企业(78%)会监控智能体活动,67%会执行访问控制,但仅30%会对高风险智能体进行沙盒隔离。这种”观察但很少隔离”的模式反映了当前企业对智能体安全的态度:知道风险存在,但尚未采取最有效的隔离措施。
特别值得注意的是,规模越大,隔离比例越低。员工超过1,000人的大型企业中,只有20%对高风险智能体进行沙盒隔离,而中型企业这一比例为35%。这表明,随着智能体部署规模扩大,安全风险也在增加,但相应的隔离措施却未能跟上。
发现四:安全投入不足
智能体安全支出仅占安全预算一小部分
调查显示,尽管智能体安全风险日益凸显,但相关投入仍然不足。仅38%的企业表示智能体安全支出占其安全预算的10%以上,大多数企业(62%)的智能体安全投入不足10%。
更令人担忧的是,近半数企业(48%)表示尚未专门为智能体安全分配预算,而是将其纳入现有安全框架中。这种投入不足的状况与日益增长的安全风险形成鲜明对比,可能导致智能体安全鸿沟进一步扩大。
企业对智能体安全工具的满意度较高(平均4.2分,满分5分),但满意度最高的工具大多来自大型科技提供商,而非专门为智能体安全设计的解决方案。这种依赖外部工具的状况可能无法满足企业特定的智能体安全需求。
结论与建议
调查显示,企业面临一个日益扩大的智能体安全鸿沟。尽管超过半数的企业已经经历过安全事件,但大多数仍未采取足够的防护措施,特别是身份管理和隔离措施。
为缩小这一鸿沟,企业应考虑以下措施:
- 为每个智能体提供独立限定身份,实现最小权限访问
- 对高风险智能体实施沙盒隔离,限制潜在影响范围
- 增加智能体安全投入,将其作为安全预算的重要组成部分
- 采用专门为智能体安全设计的解决方案,而非仅依赖通用安全工具
- 建立智能体活动监控和事件响应机制,及时发现并应对安全威胁
随着AI智能体在企业中的普及应用,智能体安全将成为企业安全战略的核心组成部分。只有提前布局,加强防护,才能在享受AI带来便利的同时,有效管控相关安全风险。
关注微信号:智享开源 ,及时了解更新信息。


公众号:智享开源
还没有任何评论,你来说两句吧!