AI硬件闲置严重，企业GPU利用率不足

众多企业在部署AI智能体时，往往缺乏必要的管控措施——而且他们是有意这样部署的。这是VentureBeat Research对573家拥有100名以上员工公司的技术领导者进行6月调查得出的核心发现，该调查通过五项平行调查收集了关于智能体堆栈的数据。

如今，企业正在努力追赶并建立自己的标准，同时为此进行预算规划：研究显示，约六成企业计划在未来12个月内，在五个控制层面中的每一个层面都更换或增加供应商，其中约三分之一（取决于具体层面）计划在季度内完成迁移。

企业主要构建在五个关键层面：智能体身份管理（哪些智能体被允许执行什么操作，使用谁的凭证）；智能体输出评估（工作质量如何）；成本遥测（每个智能体的运行成本）；上下文层（智能体用于回答问题的业务数据和定义）；以及编排控制平面（协调多步骤智能体工作的软件）。

由于在部署智能体前缺乏充分的控制功能，企业已经付出了代价。54%的公司在过去12个月内经历了智能体安全事件或未造成伤害的险情。27%的企业对智能体支出仅采取被动控制——他们只在收到账单时才知道智能体的成本，而没有为每个智能体设置预算或上限。

昂贵硬件闲置：86%的GPU运营者报告利用率低于50%

86%运行自有GPU的企业报告称其利用率在50%或更低。华尔街本季度一直在争论AI建设是否过度。这是从采购方企业的测量结果来看，研究显示这些企业中最昂贵的硬件运行能力不超过其一半容量。

测量差距加剧了这一问题：只有少数44%的企业严格追踪其AI计算的实际成本和回报。其他人只是在估算。然而，企业的采购流程仍在继续：45%的企业表示，他们在未来12个月最可能评估的新兴计算选项是AI专业云（CoreWeave、Lambda、Crusoe、Nebius）。然而，目前使用这些新兴云服务的企业不到2%。

此外，约三分之一的公司似乎正在考虑对Nvidia的对冲策略：当被问及在未来12个月最可能评估哪种新兴计算选项时，32%的企业选择了非Nvidia加速器（AWS Trainium、Google TPUs、AMD），而28%选择了下一代Nvidia GPU。数据表明，企业在为新计算能力（无论是AI专业云合同、新加速器还是更多GPU）承诺预算之前，应测量现有GPU的利用率和每个工作负载的成本。

大多数部署的”智能体”仅执行单提示工作：71%表示四分之一或更少能独立完成多步骤任务

71%的企业表示，他们部署的”智能体”中只有四分之一或更少能够独立完成多步骤工作；其余的都是单提示聊天机器人。只有10%的企业表示真正的智能体是他们运行的主要部分。可以肯定的是，受访者表示他们能够了解这些情况：81%的人表示他们在公司中推荐或决定AI采购。

这一发现——大多数智能体实际上只是穿了风衣的聊天机器人——出现在行业采用率远超企业实际运行情况的背景下。Gartner预测到2026年底，40%的企业应用程序将集成任务特定的AI智能体，而2025年这一比例不到5%。该公司还警告称，最常见的误解是将这些AI助手称为智能体，这种误解被称为”智能体漂白”。

与此同时，Zapier的企业调查显示72%报告已部署或测试自主智能体；Writer的2026年调查显示97%的高管表示他们的公司在过去一年中部署了AI智能体。这些调查只是询问公司是否部署了所谓的AI智能体，而公司回答是。我们的调查向那些负责部署的人提出了一个更难的问题：在你们生产环境中运行的智能体中，有多少能够在没有人工引导每一步的情况下完成多步骤任务？这一差距对两个实际原因很重要。首先，夸大的采用率是董事会和供应商用来向技术领导者施压、要求他们更快行动的基准——而这些数据表明，真正的标准远低于标题所暗示的。其次，标签决定了账单：单提示聊天机器人需要人类阅读每个答案，不需要本报告涵盖的身份、评估和成本控制，而真正的多步骤智能体则需要所有这些控制。

66%的企业仅依靠自动评估就让智能体投入生产——或正在朝这个方向努力。仅5%完全信任这些评估

三分之二的企业属于两个阵营之一：34%已经允许AI智能体仅基于自动评估结果就将代码或系统变更投入生产，无需人工审查，另有33%正在积极构建其管道，以在未来12个月内实现这一目标。只有5%完全信任做出这一决策的自动评估。

这种不信任是有道理的。一半的企业在过去一年中部署了通过内部评估但随后导致面向客户失败的智能体；四分之一的企业目睹这种情况发生不止一次。当被问及当前评估的最大弱点时，更多企业选择了”与实际结果对齐不佳”——29%的受访者选择了这一答案。

而且大多数检查发生在智能体部署前，然后停止。一旦智能体与真实用户一起运行，只有23%的企业对智能体产生的答案进行实时质量检查。另外51%只监控系统健康状况——正常运行时间、请求跟踪和网关日志——这告诉他们智能体正在运行，但无法判断其答案是否正确。第一步：在从任何工作流程中移除人工审查之前，针对生产结果而非内部基准测试您的评估，并测量答案质量，而不仅仅是正常运行时间。

69%的企业在智能体舰队中某处运行凭证共享——这些公司遭受攻击的频率高得多

69%的企业在智能体舰队运行时某处允许凭证共享——这意味着多个智能体使用一个API密钥或服务账户运行。这些公司遭受攻击的可能性要高得多：在任何地方存在凭证共享的组织经历了安全事件或险情，比例为63.5%（74家中的47家）。

相比之下，禁止所有智能体运行时凭证共享的企业遭受安全事件或险情的比例仅为35.8%。这一差距表明，凭证共享可能是导致智能体安全漏洞的关键因素。随着企业继续扩展其智能体部署，建立严格的凭证管理实践变得至关重要。

此外，大多数企业在智能体安全方面的投入不足：只有41%的企业为每个智能体分配了专门的预算，而近三分之一的企业甚至没有跟踪智能体相关的安全支出。这种资源分配不足可能导致企业在面对日益复杂的智能体安全挑战时处于不利地位。

关注微信号：智享开源 ，及时了解更新信息。