OpenAI发布Jalapeño：首款定制推理芯片

OpenAI推出首枚定制推理芯片Jalapeño

近日，OpenAI正式发布其首款定制推理处理器Jalapeño，这款芯片与博通(Broadcom)合作设计制造，专为满足OpenAI推理系统的独特需求而打造。令人瞩目的是，OpenAI公司自己的AI智能体也参与了这款芯片的开发过程。

尽管Jalapeño芯片仍处于测试阶段，但OpenAI表示，早期测试结果显示其能效比显著优于当前市场上最先进的替代产品。这一突破性进展可能为人工智能运算领域带来新的变革。

此次合作已于去年10月正式宣布，但OpenAI的芯片计划早已是业界关注的焦点，被视为减少对英伟达(NVIDIA)GPU依赖的战略举措。事实上，谷歌和亚马逊等科技巨头已纷纷推出各自的定制芯片，这类通常被称为”AI加速器”的专用硅芯片，旨在专门加速机器学习工作负载。

OpenAI总裁格雷格·布罗克曼(Greg Brockman)在公司内部播客中解释了公司的芯片开发理念。他强调：”我们对工作负载有着深入的理解，我们一直在寻找那些服务不足的特定领域，并思考如何构建能够加速可能性的东西。”

Jalapeño芯片专门针对推理过程设计，即运行预构建AI模型以响应用户指令的过程。在公告中，OpenAI特别强调了该芯片在运行实时编码模型时的低运营成本。虽然像预训练这样计算密集型任务可能仍依赖英伟达硬件，但即使是推理成本的微小降低，也能显著改善公司的盈利状况。

优化推理系统可能成为未来AI经济的关键因素，这一优化可能发生在技术栈的各个层面。OpenAI已经在构建基于智能体的产品，如Codex以及驱动它们的基础模型，同时还建造了运行这些模型的数据中心。

OpenAI在公告中表示：”OpenAI不仅正在开发前沿模型或在它们之上构建产品，它还在设计这些模型背后的基础设施：芯片架构、内核、内存系统、网络、调度、部署系统和产品体验。由于OpenAI在整个技术栈中运营，每一层都可以围绕同一目标进行优化：使其模型对用户来说更快、更可靠、更经济实惠。”

关注微信号：智享开源，及时了解更新信息。

0 0