企业AI芯片评估:非英伟达反超14个百分点
在最新的AI加速器评估周期中,企业采购商在构建评估列表时,更倾向于纳入非英伟达芯片而非英伟达自身的下一代GPU。根据VentureBeat七月份VB Pulse对170位AI基础设施受访者的调查,39.4%的受访者表示他们可能在接下来12个月内评估非英伟达加速器——包括AWS Trainium、Google TPU、AMD Instinct、Intel Gaudi或自研ASIC,相比之下,只有25.3%的受访者计划评估英伟达Blackwell(GB300)或其他英伟达下一代GPU,两者相差14个百分点。
英伟达仍是大多数生产环境中的默认选择。然而,组织机构正在为其加速器策略构建真正的多元性,而非仅将英伟达视为唯一值得评估的选项。

这一发现反映了更广泛的趋势:企业在进行下一次重大平台变更之前,正扩展并优化现有AI基础设施。虽然基础设施活动增加,但并未产生切换平台的更大紧迫性。预期在三个月内变更平台的受访者比例从六月份的38.3%下降到七月份的28.8%,尽管生产采用率、加速器利用率以及对新云平台和开源基础设施的探索均有所上升。
企业AI基础设施实际增长领域
七月数据显示,组织机构正在更密集地运营AI基础设施,并将更多供应商平台投入生产。
在主要测量的平台中,微软Azure实现了最大的生产采用率增长,报告Azure已投入生产的受访者比例从六月的29%上升到七月的47.1%,增长了18.1个百分点。部分增长反映了受访者构成的变化:七月受访者群体比六月更偏向高端市场(57%来自1000人以上组织,而六月为37%),且Azure采用率在这两轮调查中都随公司规模增长而提高。Google的Gemini在两轮调查中都是使用最广泛的平台,报告其已投入生产的受访者比例从六月的41.1%上升到七月的47.6%,略微领先于Azure。
报告OpenAI已投入生产的受访者比例从40.2%上升到49.4%。Anthropic生产采用率从12.1%增加到24.7%。
在自主运营GPU的企业中,运行容量不足一半的比例从六月的83%(100名受访者)下降到七月的69%(155名受访者),而利用率超过50%的比例从13%上升到23%。
基础设施有效性的定义也变得更加注重运营。选择正常运行时间和可靠性作为重要有效性指标的受访者比例从42.1%增加到51.2%。选择吞吐量作为指标的比例从21.5%上升到24.7%。
实施便利性在五分量表上的平均评分从3.84上升到4.04。总体满意度仅略有提升,从4.07上升到4.14,而感知价值基本保持在3.9左右不变。
这种组合情况表明,企业并未报告因部署更多基础设施而带来价值显著提升。他们正成为能力更强的运营者,拥有更优的架构,但同时也在为基础设施必须达到的标准设定更高要求,其中可靠性居首位。
平台变更紧迫性的外移
七月调查中最强烈的反信号是计划立即进行平台变更的受访者比例下降。
预期在零至三个月内进行变更的比例下降了9.5个百分点。预期在三至六个月内变更的比例上升了4.1个百分点,而六至十二个月的窗口期上升了5.3个百分点。没有计划变更的比例基本保持在40%左右。
紧迫性正在向外推移,开放权重模型和开源工具包的辩论在哪些组件需要增强而非完全替换方面发挥了作用。
选择标准支持这一解释。与现有云和数据栈的集成在两轮调查中都是首要因素,在六月和七月分别稳定在41.1%和40.0%。优先考虑性能的受访者比例从24.3%上升到35.3%。优先考虑每百万代币成本的受访者比例从7.5%上升到15.9%,而优先考虑GPU访问权的比例从18.7%上升到23.5%。
相比之下,选择总体拥有成本作为主要因素的比例从34.6%下降到21.8%。
市场似乎正从一般基础设施规划转向工作负载层面的审视。采购商 increasingly想要了解平台在生产推理中的表现、运营可靠性以及每单位有用工作的成本。
对英伟达替代品的兴趣集中在高层决策者
39.4%这一比例在六月为31.8%,在此之前就已呈上升趋势。企业权衡的替代方案包括AWS Trainium、Google TPU、AMD Instinct、Intel Gaudi和其他自研ASIC。
在拥有战略采购权的受访者中,兴趣更为强烈,尽管高管样本较小:计划评估非英伟达加速器的高管比例从六月的42.9%(14人中6人)上升到七月的57.1%(21人中12人)。在最终决策者中,相同兴趣的比例从35.4%上升到50%。
这在中小型企业规模组织中尤为明显。在拥有251至1000名员工的组织中,比例从41.4%上升到53.2%。在拥有101至250名员工的组织中,从33.3%上升到57.7%。
这些发现表明组织机构正在为其加速器策略构建多元性。
来自高管和最终决策者的更多关注表明,加速器多样性正成为战略基础设施问题,而非仅是工程团队的技术问题。
企业寻求控制AI智能体环境
基础设施调查结果与另一项关于智能体环境层的VB Pulse调查结果一致。该调查包括六月份的101名实质受访者和七月份的101名受访者。
AI环境层是将模型与企业数据、工具、编排、评估、身份、安全、可观测性和业务流程连接起来的操作层。它决定了智能体可以访问什么、可以采取哪些行动以及组织如何评估其输出。
在七月份,36.6%的环境层受访者表示计划保留最佳独立工具与模型并存。另有36.6%的受访者预计将混合使用供应商原生运行时与独立工具,而只有5.9%的受访者打算自行构建和拥有环境层。
综合来看,79.2%的七月受访者倾向于保持至少部分架构控制独立于单一模型提供商,而六月份约为65.3%。只有11.9%的七月受访者倾向于整合到单一模型供应商的原生环境堆栈,低于六月份的20.8%。
大多数企业希望保留供应商选择权,对关键组件实施独立治理或控制。
这种控制需求正变得愈发清晰。在七月份,62.4%的环境层受访者报告已投入生产或正在构建受控语义或环境层。仅生产采用率就从24.8%上升到31.7%。
与此同时,68.3%的七月份受访者报告至少经历过一次因缺少或不正确环境导致的自信但错误的智能体回答,而六月份为57.4%。
关注微信号:智享开源,及时了解更新信息。


公众号:智享开源
还没有任何评论,你来说两句吧!