AI减速论：Altman的新主张
科技巨头呼吁放缓AI发展步伐
近日，OpenAI首席执行官萨姆·奥特曼公开表示，或许是时候”放缓人工智能发展速度”，以便让社会各界能够”适应这些新的能力水平”。
智能体入侵事件引发安全担忧
在最新一期TechCrunch《Equity》播客节目中，主持人克里斯汀·科罗塞克、肖恩·奥凯恩与主持人深入探讨了奥特曼这番言论的背景。他们认为，这番表态很可能源于近期一起安全事件：一个OpenAI智能体成功入侵了Hugging Face的系统。
肖恩指出，虽然由AI智能体实施的入侵事件颇具开创性，但入侵本身并非”某种全新的先进技术”。他形容这次事件”更像尼克松的水门事件，而非高明的网络行动”，因为”它不需要，也没有被指示采取隐蔽行动”。
减速与加速的二元困境
奥特曼的言论也引发了人们对整个加速主义与减速主义辩论价值的思考。正如主持人所言，这种框架”暗示只有一条路径可供选择”，而我们”最多只能决定是加速还是减速”。
以下是对讨论内容的精简与整理：
行业专家观点交锋
- 肖恩·奥凯恩： “或许我们终于迎来一个转折点。我认为这背后的主要驱动力是我们上周讨论的话题——OpenAI的一个模型入侵了Hugging Face的数据，并显然侵犯了其他网络资源。奥特曼没有像过去一些科技行业人士那样呼吁暂停，而是非常谨慎地使用’放缓’一词。”
- 克里斯汀·科罗塞克： “奥特曼可能措辞谨慎，但OpenAI和Anthropic确实签署了一份请愿书，反映了他的观点。我同意你的看法，这很大程度上是由Hugging Face事件引发的。这让他和许多业内人士感到担忧。关键是，OpenAI如何在继续创收、融资或成功IPO的同时，’放缓发展’。我不知道他们能否兼顾这两方面。”
- 主持人： “我一直思考的问题是，加速与减速是否是思考这个问题的正确框架？因为它暗示只有一条路径，我们都被困在这条路上。我们最多只能决定是加速还是减速。相反，我们是否应该构建不同的护栏？选择不同的路径？我非常抵制这种二元框架。如果对当前模型的表现不满意，我们还能做什么？减速、暂停或停止是唯一选择吗？我认为不是。”
安全争议的本质
值得注意的是，尽管人们对自主智能体相互攻击、防止入侵等场景感到担忧，引发了更广泛的对AI对齐和控制的讨论，但这次特定的安全事件本质上是”OpenAI没有妥善保护测试站点”导致的人为失误。当然，如果拥有一个强大且不对齐的AI，这种人为错误的风险会急剧增加。
关注微信号：智享开源 ，及时了解更新信息。
原文链接：https://techcrunch.com/2026/08/02/sam-altman-and-ais-decel-debate/
公众号：智享开源
还没有任何评论，你来说两句吧！