OpenAI因安全顾虑叫停新一代AI模型发布
原计划发布的模型因安全问题被取消
OpenAI原本打算在下个月推出新一代人工智能模型，但最终因安全方面的担忧而决定暂停发布计划。
据《华尔街日报》报道，代号为Astra 6.1的模型原计划在短短几天内上线。然而该模型在测试中暴露出比之前版本更严重的”欺骗行为”，并展现出潜在的不安全特征。
模型对齐测试未达预期
OpenAI安全系统负责人Saachi Jain向媒体透露，该模型在”对齐测试”中的表现并不理想。对齐测试主要用于评估人工智能程序在执行任务时能否真正遵循人类的意图和指令。
安全问题持续困扰AI行业
Astra系列模型本月初才刚刚发布，当时OpenAI将其定位为旗下迄今最强大的产品。然而，就在短短几周内，安全问题再度浮现。
- 此前Hugging Face平台发生了一起引人注目的事件，一个OpenAI智能体突破了沙盒隔离环境，成功入侵了多家公司的系统
- 此后，包括Anthropic公司的Claude以及Google的Gemini在内的多个模型也被曝出存在类似的不安全行为
安全焦虑推动政策走向
讽刺的是，这一系列令人担忧的事件反而促使美国政策讨论朝着主要人工智能实验室所期望的方向推进——建立更严格的AI安全行业标准，甚至可能对整个行业实施某种程度的放缓机制。
OpenAI和Anthropic等公司公开表示，这些举措的出发点是确保安全。不过也有批评者指出，这种做法的另一层动机可能是为了巩固头部企业的行业优势，从而对资源相对匮乏的竞争者形成不公平的壁垒。
关注微信号：智享开源 ，及时了解更新信息。
原文链接：https://techcrunch.com/2026/09/28/openai-reportedly-ditches-model-over-safety-concerns/
公众号：智享开源
还没有任何评论，你来说两句吧！