从GPU到推理芯片:4亿美元融资背后的市场转向

AI推理云初创公司获4亿美元融资
General Compute,一家专注于AI推理云服务的初创公司,成功获得了Upper90这家科技投资公司提供的4亿美元贷款。这笔交易可能开创了以推理专用芯片作为抵押的先河,这些芯片专为高效运行已训练的AI模型而设计,与构建模型所需的昂贵芯片形成鲜明对比。
市场转向更经济的AI基础设施
此次融资是市场对AI工具和代币价格担忧的最新回应,投资者正转向能够比前沿实验室最新大型语言模型更便宜地运行开源模型的基础设施。这一趋势反映了AI领域计算需求的转变。
公司背景与技术优势
由CEO Finn Puklowski和CTO Jason Goodison创立的General Compute,今年5月筹集了1500万美元种子资金,旨在基于英特尔支持的芯片制造商SambaNova的硅片构建推理新云。这种新云专为AI工作负载设计,不同于AWS或Azure等传统超大规模提供商提供的通用基础设施。
公司的SN50芯片专为推理任务优化,具有能效高、无需昂贵水冷系统的特点,这意味着它们可以在更多样化的数据中心中比GPU更快部署。General Compute声称,这些新芯片将提供比基于GPU的云快16倍的推理性能。
融资创新与行业变革
对于一家新创公司而言,获取大量芯片是一个挑战。Upper90联合创始人兼CEO Billy Libby,前高盛量化交易员,为此制定了一套策略:2021年,他的公司为Crusoe(一家专注于能源的数据中心初创公司)的GPU购买提供融资,这可能是首次针对先进芯片价值的贷款。
当时,传统贷款人回避此类交易,因为对GPU贬值存在风险和不确定性。但随着CoreWeave将芯片支持的贷款发展为商业模式,并以此为基础实现了轰动性的IPO,这种融资方式已成为行业常态。
投资策略的转变
“当我们作为首批群体为Nvidia GPU提供融资时,市场效率低下,”Libby在接受采访时表示,”作为早期参与者,我们确实能够构建一些东西,并获得相应风险补偿。”
如今GPU市场相对成熟且可能已过热,Upper90正转向像General Compute这样的公司,以抓住AI繁荣的下一波浪潮。我们相信开源模型将变得重要,去年我们寻找专注于推理领域的参与者,”Libby说道,”并非每个人都需要超级计算机,但他们确实需要推理和AI能力。”
开源模型与芯片多元化趋势
这一观点正变得越来越有力,OpenRouter和Fireworks等提供开源模型访问的公司正以高估值进行新一轮融资。Kimi的K3等新模型已在编程基准测试中证明能与Anthropic和OpenAI的最新产品相媲美。同时,Groq和Cerebras等新芯片制造商也引起了收购者和公众市场的共同兴趣。
General Compute能够访问Nvidia生态系统外的芯片,这一点至关重要。另一家AI基础设施公司TensorWave也在与AMD合作进行类似押注。随着更多Nvidia替代方案的出现,不受Nvidia协议约束的计算提供商可能在提供高效推理服务方面具有优势。
行业格局的变化
“有一批芯片开始规模化,它们拥有出色的总拥有成本,或能比Nvidia运行得更快,但买家不多,”Puklowski表示,”通过与Upper90合作,这不仅是一个’酷炫的初创公司获得资金购买计算资源’的故事。这是资本自我组织起来的第一个信号,也是Nvidia垄断优势分化的开始。”
随着AI技术的不断发展,计算资源的融资模式也在不断演变,从传统的GPU投资转向更加专业化、高效的推理芯片领域,这标志着AI基础设施市场正在经历深刻的变革。
关注微信号:智享开源 ,及时了解更新信息。


公众号:智享开源
还没有任何评论,你来说两句吧!