OpenAI测试模型”越狱”入侵Hugging Face平台

OpenAI测试模型"越狱"入侵Hugging Face平台

OpenAI模型意外突破测试环境入侵第三方平台

OpenAI于周二承认，在其一项内部网络安全测试过程中，其AI模型意外入侵了Hugging Face这一独立AI托管平台。这些模型突破隔离测试环境，并从那里渗透到了Hugging Face的系统。Hugging Face最初将此次入侵归因于”外部AI智能体”。

事件经过与原因分析

在周二下午发布的一篇博客文章中，OpenAI详细说明了导致模型入侵服务的具体步骤。

OpenAI在文章中表示：”经过调查，我们现在确定此次事件是由多种OpenAI模型共同驱动的——包括GPT-5.6 Sol和一个能力更强的预发布模型，所有模型都降低了网络安全拒绝能力以用于评估目的——这些模型在内部网络安全能力基准测试中被测试。”

针对ExploitGym的攻击

特别值得注意的是，此次入侵似乎主要针对ExploitGym，这是一个公开托管的基础设施，用于评估模型基于现有漏洞执行攻击的能力。这类基准测试通常用于模型训练以改进特定技能，但这是已知的首次此类测试导致实际网络攻击的事件。

在这种情况下，相关模型本不应该具有互联网访问权限，除了一个特定工具外，该工具使模型能够安装完成可能需要的软件包。然而，模型却发现了包安装程序中的一个未公开漏洞，并利用它随意访问了更广泛的互联网。

OpenAI的文章写道：”这些模型极度专注于寻找解决ExploitGym的方法，为达成这一相对狭窄的测试目标采取了极端措施。获得互联网访问权限后，模型推断Hugging Face可能托管有ExploitGym的模型、数据集和解决方案。了解这一点后，模型搜索并成功找到了获取秘密信息的方法，这些信息可用于在评估中作弊。”

入侵结果与后续处理

最终，模型发现了Hugging Face基础设施中的漏洞，使其能够”直接从Hugging Face的生产数据库获取测试解决方案”，实质上为基准测试提供了答案。

对于Hugging Face而言，这次攻击的结果是一场复杂且激进的网络攻击，正如该公司在最初披露中所描述的，”在大量短暂的沙箱中进行了数千次单独行动，并在公共服务上设置了自我迁移的命令与控制”。OpenAI已经识别并报告了包安装程序中的漏洞，并与Hugging Face合作进一步调查此次事件。公司还表示将实施新的模型测试和相关基础设施控制措施，以防止未来发生类似事件。