AI巨头CEO呼吁放缓技术发展步伐
人工智能发展减速策略获行业支持
近期，人工智能领域多位领军人物相继呼吁放慢技术发展步伐。Anthropic公司首席执行官达里奥·阿莫迪(Dario Amodei)不仅响应”放慢前沿技术发展”的呼吁，还提出了三项具体策略，并宣布Anthropic将单方面执行其中一项。OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)也表示认同，并称OpenAI将跟进。
安全担忧促使行业反思
本周，关于AI安全与对齐的讨论愈发激烈。此前，Anthropic研究员雅各布·考克森(Jacob Coxson)因担忧”AI公司正在拿我们的生命冒险”而辞职，他认为技术构建者”真诚地相信这项技术可能在十年内导致人类灭亡”。这一担忧在Anthropic内部得到了其他人的呼应。
阿莫迪在博客文章中虽然没有直接提及考克森的辞职，但他指出了促使他采取更谨慎态度的两个因素：OpenAI与HuggingFace的安全事件，以及”AI能力在过去几个月中急剧提升”，特别是其”构建下一代AI的能力不断增强”。
阿莫迪写道：”我们必须减缓提升AI模型能力的速度。进步仍会显得很快，我们必须明智地利用赢得的时间。”
三大减速策略解析
阿莫迪提出的策略包括以下几个关键措施：
第三方评估者嵌入
阿莫迪提议引入来自METR等第三方组织的”嵌入式评估者”，这些评估者可以验证AI公司是否真正遵守其发展速度和安全承诺，并确保安全事件得到报告。OpenAI最近就因未报告其AI智能体接管德国维基论坛的事件而受到批评。
阿莫迪将这类评估者比作嵌入银行员工的监管者，并表示Anthropic将单方面承诺引入这类评估者，并呼吁政府要求其他前沿公司效仿。这意味着评估者将获得公司徽章、办公桌和笔记本电脑，并提供”与内部风险评估团队基本相当”的访问权限，法律或合同要求的例外情况除外。
民主国家间协调
阿莫迪呼吁民主国家的主要AI公司协调制定”共同安全标准以及对无监管AI进步速度的限制”。然而，这种协调面临挑战，因为这些公司担心协调暂停可能引发反垄断审查。阿莫迪建议美国政府”调解或至少促进这些讨论”，并就某些安全对话发布有限豁免。
全球合作框架
阿莫迪还呼吁进行”全球协调”，让美国及其盟友”尽可能与威权政府合作”。他承认这存在”明显限制”，但仍建议在禁止某些明显危险的AI应用方面达成一致，如禁止使用AI生产生物武器或允许用户这样做。
应对国际竞争挑战
针对有人担忧放缓AI发展会导致中国AI主导的论调，阿莫迪指出，如果美国政府和科技公司采取措施，如拒绝向中国公司出售强大的芯片或半导体制造设备，以及打击模型蒸馏技术，他们可以在未来3-5年内”减缓中国的进展，显著扩大美国的领先优势”。
尽管阿莫迪过去一直承认AI的潜在风险，并愿意接受某种形式的监管，但一些AI倡导者已批评他属于”末日论者”，其言论助长了当前的AI反弹。对此，阿莫迪表示他试图提供”平衡的视角”。
阿尔特曼和阿莫迪的倡议得到了SpaceX首席执行官埃隆·马斯克(Elon Musk)等业界领袖的支持，马斯克在社交媒体上表示：”达里奥是对的。”
关注微信号：智享开源 ，及时了解更新信息。
原文链接：https://techcrunch.com/2026/09/12/anthropic-ceo-outlines-plan-to-pace-the-frontier/
公众号：智享开源
还没有任何评论，你来说两句吧！