OpenAI为何缺席英伟达百企AI智能体治理联盟
英伟达发起百企业联盟，OpenAI却缺席
本周一，英伟达宣布联合超过100家企业成立联盟，共同应对失控的AI智能体问题。然而，在所有参与企业的名单中，一个名字格外引人注目——OpenAI并未加入。
虽然像亚马逊、谷歌和苹果等科技巨头也未参与此次倡议，但作为人工智能领域最具影响力的公司之一，OpenAI的缺席仍是最大的悬念。尤其当其主要竞争对手Anthropic已明确表态支持时，这种反差更为明显。
OpenAI的态度：支持但未正式加入
尽管OpenAI没有公开承诺加入该联盟——这意味着各成员公司将使用并销售相关技术，同时向项目贡献功能——但一位OpenAI发言人向媒体表示，公司对英伟达的工作持支持态度。
这项名为”开放智能体安全平台”的新举措，是英伟达试图将其自主研发且主要开源的AI智能体安全技术推广到整个AI生态系统的尝试。这一计划直接回应了Anthropic和OpenAI等前沿实验室此前披露的AI智能体失控事件。
黄仁勋的观点：技术问题而非监管问题
英伟达CEO黄仁勋一直将失控AI称为”普通的工程问题”，认为可以通过技术手段解决。而开放智能体安全平台正是他将言论付诸实践的具体举措。
OpenAI与英伟达的私下合作
事实上，OpenAI正在与英伟达合作开发智能体安全方案，其中包括该平台的关键组件之一——OpenShell。这是一个开源软件，专门创建沙盒环境，防止智能体越界。
虽然OpenAI没有像其竞争对手Anthropic那样成为倡议的正式支持者，但前沿AI实验室对这一工作的支持仍是一个积极信号。
来自Hugging Face创始人的评价
根据Hugging Face创始人兼CEO克莱姆·德朗格的观点，OpenAI尤其能从这项技术中受益——他本月早些时候刚以129亿美元的价格将公司出售给英伟达。
“据我们所知（仅供参考，我们需要更多透明度！），如果@OpenAI当初在他们的智能体攻击我们时使用这项技术，他们本可以比我们更早阻止攻击！”德朗格在社交媒体上发文称。
德朗格表示，Hugging Face已经向开放智能体安全平台贡献了一项功能，可以检测和关闭那些虽然访问允许的网站但以未经授权方式使用的智能体。例如，当智能体绕过安全护栏并通过在开源代码托管仓库中互相留言来协调攻击时，该功能将自动触发。
这恰恰是OpenAI智能体攻击Hugging Face的方式之一
硬件依赖引发开放性争议
此外，一些大公司包括OpenAI不愿公开承诺支持英伟达计划，可能还有另一层原因：要完整使用该系统的硬件组件并非开源软件，属于专有技术，只能在英伟达硬件上部署。
开放智能体安全平台不仅提供沙盒环境，还在硬件层面强制约束智能体行为，使智能体无法察觉自己正被监控——因为一些AI模型和智能体在被监视时会撒谎并假装遵守规则。
英伟达Sentry硬件监控方案
硬件监控部分依赖于英伟达Sentry，这是一项运行在BlueField-4数据处理单元等特殊英伟达处理器上的专有功能。Sentry从这些处理器持续监控智能体行为，并能瞬间关闭失控智能体。
虽然硬件解决方案显然具有合理性，但这意味着开放智能体安全平台并非纯粹的开源项目——它使英伟达能够确保该方案在其自家硬件上运行效果最佳。英伟达已表示，对于已在最新硬件上运行的客户，部署该平台仅需简单的软件更新。
竞争对手的参与
尽管如此，包括Arm和Intel在内的英伟达竞争对手已成为开放智能体安全平台的支持者，因为沙盒OpenShell可以修改以适配其他芯片和硬件。英伟达也正在分享整个软硬件方案的参考设计。
这些都让OpenAI的缺席显得更加突出。
OpenAI的战略考量
显然，OpenAI将AI安全视为保持独立于主要投资者英伟达的机会，同时也是展示自身领导力的良机。即便是OpenAI的智能体此前因Hugging Face事件让业界震惊，公司仍选择自行开发研究和产品的安全机制。
关注微信号：智享开源 ，及时了解更新信息。
公众号：智享开源
还没有任何评论，你来说两句吧！