企业AI基建提速,成本测量滞后

摘要
通过对107家企业的调研发现,AI基础设施投资正加速远超经济监测能力。大多数组织在熟悉的超大规模服务商和模型提供商API基础上运行AI,但下一笔投资将针对当前几乎无人使用的专业计算资源;多数企业计划在一年内更换或增加服务商,有些甚至将在一个季度内完成。购买决策取决于集成度和总体拥有成本,而非代币标价——这很幸运,因为大多数企业尚无法清晰了解其单位经济状况:GPU利用率不足50%,不到一半的企业能严格追踪实际计算成本。结果形成了计算差距——大量且快速增长的投资超越了控制所需的可见度。
调研概述
此次VentureBeat Pulse调研聚焦企业AI基础设施和计算资源:组织在部署旅程中的位置、当前使用的AI运行平台、满意度、切换服务商的原因、投资评估计划,以及最关键的是,企业能够多好地测量和控制底层计算的经济性。
核心发现是存在计算差距——企业对AI基础设施的积极投资与其经济性可见度之间的差距。只有约五分之一(21%)的企业规模化生产环境中运行AI,但支出意向已超过这一成熟度:未来一年企业计划评估的最大领域是AI专业云服务(45%),而当前几乎没有企业使用这一层级的资源。与此同时,已部署的计算资源利用率低下——83%的GPU利用率不超过50%,不到一半(44%)的企业能严格追踪AI计算成本。企业购买基础设施的速度超过了对其已有资产的核算能力。
企业基础设施服务商尚未稳定
企业对基础设施服务商尚未确定:明确多数(64%)计划在十二个月内更换或增加服务商,38%计划在下一季度内完成——对于这类基础性服务类别而言,这是异常高的更换率。选择服务商时,企业考虑的是与现有技术栈的集成度(41%)和总体拥有成本(35%),而非标价:每百万代币成本是仅8%企业的决定因素。而将影响下一轮决策的前沿约束——从GPU计算转向推理扩展时的内存带宽——几乎不在大多数企业的雷达上,约五分之一的企业要么对此一无所知,要么尚未着手解决。
调研方法
VentureBeat作为其持续进行的Pulse调研系列的一部分开展了此项调查,专注于企业AI基础设施、计算资源和推理经济性。回应筛选自员工超过100人的组织(n=107;排除了规模最小的1-100人员工区间),来自单一的2026年第二季度(6月)波次。由于这是单次波次而非多月合并样本,报告应作横截面解读,不推断月度趋势。部分问题为多选,因此比例总和可能超过100%。
按组织规模,样本集中在中型市场:101-250名员工(36%)和251-1000名员工(27%)领先,其次是1001-5000名员工(22%)、5001-10000名员工(8%)和10001名以上员工(7%)。按职位角色,样本包括管理人员(38%)、个人贡献者(28%)、副总裁和总监(19%)以及C级高管(13%);在采购权限方面具有可信度,45%为最终决策者,另有30%为AI解决方案的建议者或影响者。技术/软件行业占比最大(26%),其次是医疗/生命科学(15%)、金融服务(13%)和零售/电子商务(12%)。
107名受访者样本量足够进行方向性解读,但应视为方向性信号而非精确测量;样本为自选且非概率样本。同时,样本偏向中型市场和早期采用者,因此最好将其理解为积极构建AI基础设施的企业的观点,而非最大的超大规模运营商的观点。
发现一:雄心超越生产
仅五分之一企业规模化部署AI
我们询问了组织在AI部署旅程中的位置。大多数企业仍在向生产环境迈进,而非规模化运营。
成熟度曲线呈现前端集中化。四分之三的企业(76%)要么处于实验阶段,要么只有部分工作负载在生产环境中运行,仅21%的企业描述为规模化生产环境中运行AI。这对后续所有内容都很重要:本报告中的基础设施决策主要由仍处于部署早期的组织做出,其计算足迹——及其成本——即将增长。发现3和4中的评估和切换意向是这种扩展的前沿,而非已找到有效方案的运营商的稳定偏好。
发现二:企业依赖超大规模服务商和模型API
专业GPU云服务几乎未被使用
我们询问企业当前使用哪些提供商和平台运行AI。答案众所周知:现有巨头。
当前的技术栈是超大规模服务商和API。谷歌云以48%的占比领先,通用云服务商(谷歌、微软、AWS、Oracle)与主要模型API(Gemini、OpenAI、Anthropic)合计几乎占据所有当前部署。那些主导AI基础设施头条新闻的专业”新云”GPU提供商——CoreWeave、Lambda、Crusoe、Nebius等——在这些企业中几乎无人使用。仅6%的企业运行自己的本地GPU集群,4%使用定制开源技术栈。企业目前使用的仍是他们已经购买服务的提供商——这使得发现3中的评估意向更加引人注目。
发现三:下一笔投资将投向尚未使用的资源
AI专业云服务成评估重点
我们询问企业计划在未来12个月内评估哪些AI基础设施资源。他们的答案指向了不同于当前使用的方向。
这是报告中最明显的矛盾。最常被提及的计划评估领域——AI专业云服务,占比45%——正是当前几乎没有任何企业使用的类别(发现2)。近三分之一(32%)的企业计划评估非NVIDIA加速器,28%关注下一代NVIDIA芯片;甚至去中心化计算网络(16%)和主权计算(11%)也引起了实质性兴趣。对照当前使用情况,这不是增量扩展,而是重新平台化的前沿。方向性提问也讲述了同样的故事:每种基础设施方法都在净扩张,但专业AI云服务的净势头最高(+24),甚至超过了超大规模服务商(+22)。企业正准备将相当一部分AI计算资源迁移出通用云服务。
关注微信号:智享开源 ,及时了解更新信息。


公众号:智享开源
还没有任何评论,你来说两句吧!