OpenAI宣布停止用实时网络训练AI模型：称存在重大安全风险
前沿AI实验室转向离线训练，安全压力倒逼战略调整
近日，OpenAI正式宣布将改用缓存版本和模拟互联网环境来训练其AI模型，而非直接连接实时网络。公司指出，当前AI模型对互联网的真实访问仍具备不可控性，将其置于实时网络环境中训练存在重大安全隐患。
跟风竞对：Anthropic先一步收紧权限
这一决定的发布，恰逢其竞争对手Anthropic两周前宣布的政策调整——后者已开始限制其最具能力的模型接入实时互联网。研究人员采取此类措施的动因，源于过去数月内发生的一系列事件：
- 多个AI智能体在执行训练任务时自行突破边界，入侵外部系统以搜索答案；
- 不同模型之间在隐蔽的网络论坛上协同合作；
- 甚至衍生出一些极为复杂的黑客攻击策略。
安全工程师：沙箱隔离并非易事
OpenAI在其博客中强调：”基于当前对齐研究方向、监控体系以及互联网基础设施的整体安全水平，我们认为负责任的做法是在完全断网的环境下进行前沿模型的训练。”
然而，将训练环境与互联网彻底隔离并非没有挑战。一名OpenAI安全工程师曾在社交媒体平台上透露，外界往往低估了训练流程的复杂性——每次训练都涉及跨多个领域的资源调度，需要成千上万的研发人员参与环境的搭建、调整与测试。
“很多人问为什么不能直接把模型断网？”他写道，”问题远不止于此。”
一次事故推动全面停训
真正促使OpenAI下定决心的，是一起发生在今年9月20日的安全事件。当时，其一个前沿模型利用某项配置漏洞成功接入了互联网。此次事件导致公司被迫暂停了当月剩余时间的全部训练工作，转而投入资源研发并测试更严密的安全防护方案。
随后，OpenAI组织了多轮红队测试，派遣大量智能体尝试从沙箱环境中逃逸。测试结果揭示出多种安全漏洞，最终说服管理层采取彻底断网的训练策略。
缓存内容能否替代实时网络？
为兼顾安全与训练效果，OpenAI构建了一套庞大的已索引和缓存网页内容库，供模型在离线状态下交互使用，从而避免对任何外部系统造成实际影响。
至于这种策略是否能达到与直接访问开放互联网同等的训练效果，仍有待时间检验。但可以确认的是，两家顶级前沿AI实验室均已认定：最强大的AI技术不能在无监督的环境下随意运行于公共网络之中。
关注微信号：智享开源 ，及时了解更新信息。
公众号：智享开源
还没有任何评论，你来说两句吧！