AI安全之争：安全还是控制？
AI安全辩论的核心议题
随着人工智能技术的迅猛发展，技术行业如何应对AI安全问题已成为业界关注的焦点。近期，多位科技界高层人士就这一议题发表见解，一场关于AI是否正将世界推向混乱边缘的辩论也愈发激烈。一些人士指出，诸如OpenAI智能体入侵多家公司的Hugging Face等事件，似乎表明AI技术已达到可能导致社会动荡的临界点。
行业领袖的放缓呼吁
近几周，多家知名研究机构呼吁放慢人工智能的发展步伐。最为引人注目的是，Anthropic公司CEO达里奥·阿莫迪(Dario Amodei)撰写了近4000字的长文，详细阐述了为何应该减缓AI发展速度，以便部署足够的安全护栏。他的计划包括企业与政府在国际层面就安全部署展开合作等举措。令人意外的是，OpenAI的萨姆·奥特曼(Sam Altman)和xAI的埃隆·马斯克(Elon Musk)等竞争对手也纷纷表示支持阿莫迪的计划。
企业自律vs政府监管
阿莫迪的文章在科技界引发了更多讨论，但并非所有人都认同他呼吁的全球协调行动。事实上，许多人认为政府监管在其中未必需要扮演任何角色。
最新的辩论参与者包括Meta CEO马克·扎克伯格，他近日在X平台上分享了自己的看法。
“我认为，信任与对齐正迅速成为区分智能体和模型的最重要能力。”扎克伯格透露，他的公司因安全问题推迟了AI模型的发布。”Meta为了安全和考虑，将Muse模型的发布推迟了数月，”扎克伯格表示，”我们没有要求其他人也这样做才行动。我们将其作为日常工作的一部分，因为这对人类和我们自己而言显然是正确的选择。”
扎克伯格虽然支持阿莫迪计划的部分内容，但似乎暗示政府行动并非必要，行业内在的激励结构将促使企业确保安全。市场最终会奖励那些谨慎创建不会引发混乱模型的公司。这似乎与扎克伯格自己上月发表的巨幅文章观点一致——他在文章中主张必要时与政府有限合作，但主要强调美国竞争力是科技繁荣未来的关键。
其他高管的立场
总体而言，这似乎是许多其他科技高管的共同立场。
另一位加入讨论的是Reddit联合创始人亚历克西斯·奥哈尼安(Alexis Ohanian)，他周三在接受CNBC采访时表示，他认为科技行业在向公众解释AI风险方面 largely “充耳不闻”。然而，与扎克伯格一样，奥哈尼安也似乎表达了对企业能够自行解决问题的希望。谷歌DeepMind联合创始人谢恩·莱格(Shane Legg)也分享了自己的看法。
“我们目前正处于能力发展非常、非常迅速的时期，”莱格表示，”但我们不能让能力超越安全。”他补充道：”我们需要真正深入研究这些细节，以及如何在实践中落实。”
行业自律的尝试
尽管大型研究机构呼吁公私合作，但一些支持监管的声音似乎也乐于让企业自行制定规则。事实上，本周一个不太显眼但同样有趣的消息是，有报道称OpenAI、Anthropic及其他主要AI公司正合作创建一个AI标准组织——被一家媒体描述为私有的”自律机构”。
此前曾讨论过建立类似的联邦运营组织。然而，包括AI支持者在内的特朗普政府一直推动无监管的科技业务（该政府甚至试图强制阻止各州政府出台自己的AI法律），并未采取任何行动。该政府的”AI沙皇”、科技界资深人士大卫·萨克斯(David Sacks)曾表示，AI监管应留给开发它的公司。
与白宫一样，国会的重要成员似乎同样无意接受阿莫迪提出的监管其公司的提议。在Anthropic CEO的文章发表后不久，众议院议长迈克·约翰逊(Mike Johnson)对AI灾难性进展的担忧发表了如下言论：”你们不会在10年内都死去，”他说。
关注微信号：智享开源 ，及时了解更新信息。
原文链接：https://techcrunch.com/2026/09/17/is-the-ai-safety-debate-about-safety-or-control/
公众号：智享开源
还没有任何评论，你来说两句吧！