企业AI投入与成本测算的鸿沟

AI投资热潮与成本管控的失衡

在对107家企业的调查中发现，企业在AI基础设施方面的投入正以远超其成本可见性与管控能力的速度增长。多数组织仍依赖熟悉的超大规模服务商和模型提供商API来运行其AI系统，然而下一阶段的投资目标却是当前几乎无人使用的专用计算资源；大部分企业计划在一年内更换或增加服务提供商，其中许多甚至打算在季度内完成这一转变。采购决策更侧重于系统集成度和总体拥有成本，而非表面的代币价格——这反而是一种幸运，因为大多数企业尚无法清晰了解其单位成本：GPU利用率普遍低于50%，且不到一半的企业能够严格追踪其计算资源的实际成本。这导致了”计算鸿沟”现象——大量且快速增长的投资远远超前于所需的可见性控制能力。

企业AI基础设施现状与挑战

本次调研聚焦于企业AI基础设施与计算资源：组织在部署进程中所处的阶段、当前AI运行的基础设施、满意度水平、促使他们更换供应商的因素、投资评估计划，以及最关键的是——他们能够多好地测量和控制底层计算资源的经济效益。

核心发现是一个”计算鸿沟”——企业在AI基础设施上的激进投资与其经济效益可见性之间的差距。只有约五分之一(21%)的企业大规模运行AI生产环境，然而其投资意向已超越这一成熟度：未来一年企业计划评估的最大领域是AI专用云服务(45%)，而这些企业目前几乎无人使用此类服务。同时，已有的计算资源利用率低下——83%的企业报告GPU利用率在50%或以下——且不到一半(44%)的企业能够严格追踪其AI计算成本。企业正在以超过其现有资产核算能力的速度购买更多基础设施。

供应商选择与决策因素

企业对其基础设施供应商也尚未形成稳定选择：明确多数(64%)计划在十二个月内更换或增加基础设施提供商，38%计划在下一季度内完成——对于一个如此基础性的类别而言，这种高转换意向极为罕见。在选择供应商时，企业更看重与现有系统的集成度(41%)和总体拥有成本(35%)，而非表面价格：每百万代币成本仅是8%企业的决定性因素。而将塑造下一轮决策的前沿制约因素——从GPU计算转向推理规模扩展的内存带宽——几乎不在企业的雷达范围内，大约五分之一的企业要么对此一无所知，要么尚未着手解决。

调研方法

本次调研作为持续进行的调研系列的一部分，聚焦于企业AI基础设施、计算和推理经济学。调研对象为员工超过100人的组织(n=107；排除了最小的1-100员工规模群体)，数据来自第二季度单次调研波次。由于这是单次调研而非多月份合并样本，报告应作横向解读而非推断月度趋势。部分问题为多选，因此各比例总和可能超过100%。

从组织规模看，样本集中在中型市场：101-250员工(36%)和251-1,000员工(27%)占比最高，其后是1,001-5,000员工(22%)、5,001-10,000员工(8%)和10,001+员工(7%)。从职位角度看，样本涵盖经理(38%)、个人贡献者(28%)、副总裁和总监(19%)以及高管层(13%)；在采购权限方面，样本具有可信度，45%为最终决策者，另外30%为AI解决方案的推荐者或影响者。技术/软件行业占比最高(26%)，其次是医疗/生命科学(15%)、金融服务(13%)和零售/电商(12%)。

107个受访者的样本规模足以提供方向性参考，但应将其视为方向性信号而非精确测量；这是自选样本，非概率样本。调研也偏向中型市场和早期采用者，因此最好将其解读为积极构建AI基础设施的企业的观点，而非最大的超大规模运营商的观点。

发现一：雄心超越生产实际

仅五分之一企业大规模运行AI生产环境

我们询问了组织在其AI部署进程中所处的阶段。大多数组织仍在向生产环境过渡，而非大规模运行。

成熟度曲线呈现前倾状态。四分之三的企业(76%)要么仍在实验阶段，要么仅将部分工作负载投入生产，只有21%描述其AI已实现大规模生产运行。这对后续所有内容都至关重要：本报告中的基础设施决策主要由仍处于早期部署阶段的企业做出，它们的计算资源占用——及其成本——即将快速增长。评估与转换意向是这种扩展的前沿，而非已找到可行方案的运营商的稳定偏好。

发现二：企业依赖超大规模服务商和模型API

专用GPU云服务当前几乎无人问津

我们询问企业当前使用哪些提供商和平台来运行其AI。答案是一个熟悉的景象：现有主导者。

当前的技术栈是超大规模服务商和API。谷歌云以48%的占比领先，通用云服务与主要模型API合计几乎涵盖了所有当前部署。那些在AI基础设施新闻中占据主导地位的专用”新云”GPU提供商——CoreWeave、Lambda、Crusoe、Nebius及其同行——在这些企业中几乎无人使用或使用率接近零。只有6%的企业运行自己的本地GPU集群，4%使用定制开源栈。目前，企业正在从他们已经购买服务的提供商处运行AI——这使得评估意向更加引人注目。

发现三：下一阶段投资转向尚未使用的基础设施

AI专用云服务成评估首选

我们询问企业计划在未来12个月内评估哪些AI基础设施领域。他们的答案指向了与他们当前使用的技术栈不同的方向。

这里呈现了报告中最明显的矛盾。最常被提及的评估领域——AI专用云服务，占比达45%——恰恰是目前几乎无人使用的类别。近三分之一(32%)的企业计划评估非NVIDIA加速器，28%计划评估下一代NVIDIA芯片；甚至去中心化计算网络(16%)和主权计算(11%)也引起了实质性关注。对照当前使用情况，这不是渐进式变化，而是平台迁移的前沿。方向性提问同样揭示了这一趋势：每种基础设施方法都在净扩张，但专用AI云服务拥有最高的净动力(+24)，甚至超过了超大规模服务商(+22)。企业正准备将相当一部分AI计算资源从通用云服务迁移出去。

这延续了之前调研中观察到的趋势。当时，…

关注微信号：智享开源 ，及时了解更新信息。

原文链接：https://venturebeat.com/resources/the-ai-compute-gap-enterprises-are-buying-infrastructure-faster-than-they-can-measure-what-it-costs