亚马逊推出TorchNeuron工具,向英伟达AI软件壁垒发起冲击

亚马逊发布TorchNeuron,瞄准AI芯片软件生态
周一,亚马逊云科技(AWS)正式发布了一款名为TorchNeuron的开发工具,旨在帮助AI初创企业轻松将应用迁移至亚马逊自研的Trainium AI芯片。此举被视为亚马逊向英伟达在AI软件领域长期积累的竞争优势发起的最强力挑战之一。
一行代码即可切换,无需改写程序
TorchNeuron与广泛使用的开源框架PyTorch深度兼容。据亚马逊介绍,开发者仅需修改一行配置参数,即可让基于PyTorch开发的AI应用直接在Trainium芯片上运行,完全无需重新编写代码。
PyTorch背后的市场格局
亚马逊方面指出,当前约85%的AI应用程序均采用PyTorch框架开发。该框架最初由Meta(原Facebook)研发,自2022年起已移交Linux基金会维护管理。而英伟达则花费多年时间,确保其CUDA软件基础设施能够无缝支持基于PyTorch构建的AI应用,使得英伟达硬件事实上成为了大多数开发者的默认选择。
- TorchNeuron基于PyTorch适配开发,熟悉PyTorch的开发者可快速上手
- 类似方案并非亚马逊首创,AMD显卡及苹果芯片同样可通过简单配置接入PyTorch
依托AWS全栈云生态,助力初创企业降本增效
亚马逊强调,迁移至Trainium不仅操作简便,更能让AI初创公司充分接入AWS的完整云基础设施。对此,AWS安纳普纳实验室(负责亚马逊自研芯片的部门)技术软件副总裁科林·布雷斯表示:
“您是在AWS之上构建,而非押注单一用途的计算提供商,再匆忙围绕其搭建整套生态。在AWS平台上,从原型开发到生产部署的基础设施已然完备,让创始人能够快速行动并在需要时灵活扩展。”
训练推理一体化,提升整体经济效益
AWS指出,Trainium芯片同时支持模型训练和推理两大核心场景,并与初创企业所需的基础设施实现深度集成。即便单令牌成本并非最低,整体解决方案仍有望帮助企业降低成本。
布雷斯举例称:”Trainium的价值在于出色的性价比,以及训练与推理一体化平台带来的全流程经济优化。以Deepgram为例,他们借助原生PyTorch支持迁移至Trainium后,在生产级精度下每美元可处理多70%的音频数据。”Deepgram是一家AI语音应用服务商,与ElevenLabs形成竞争关系。
不止于自家芯片,亚马逊推动PyTorch硬件中立化
亚马逊的愿景并不局限于为PyTorch开发者提供迁移选项。公司同时表示,正在推动PyTorch减少对英伟达的自动依赖,并将相关代码贡献给PyTorch主项目。
在宣布新工具的博客文章中,亚马逊写道:
亚马逊的策略超越自身硬件范畴。该公司正向PyTorch上游贡献改动,与PyTorch社区协作移除将框架绑定至特定芯片的代码。目标是让PyTorch为整个开发者社区——而不仅是Trainium用户——实现真正的硬件中立。
行业影响:打破锁定,还是增加复杂度?
尽管这一策略对意图挑战英伟达的硬件和云服务厂商而言无疑是利好,但PyTorch的核心价值本就在于屏蔽硬件适配的繁琐细节。未来,将英伟达进一步边缘化的做法能否兑现亚马逊承诺的更多选择和更低成本,抑或只会给开发者带来更多配置困扰,仍需时间检验。
无论如何,如果亚马逊成功实现PyTorch与英伟达的深度解耦,其影响将远超单纯的芯片竞争层面。布雷斯总结道:”真正的意义在于解除那种让开发者毫无选择余地的锁定效应。”
关注微信号:智享开源 ,及时了解更新信息。


公众号:智享开源
还没有任何评论,你来说两句吧!