美政府突袭 Anthropic：禁令背后并非 AI 越狱
前言：周末前的突袭
美国政府对 Anthropic 发出的执法信函，犹如一颗深水炸弹，迫使这家 AI 公司在周末前夕紧急下线了其最新的 AI 模型。这一事件不仅震动了科技圈，更应成为所有美国科技公司——无论是 AI 实验室还是其他领域企业——的严厉警钟。
禁令缘起与迅速执行
回顾这起突发事件：周五下午，美国商务部向 Anthropic 发送了一封信函，援引了一项鲜为人知的出口管制指令。该指令以“未指明的国家安全担忧”为由，禁止非美国公民（甚至包括 Anthropic 自身的部分员工）访问 Fable 5 和 Mythos 5 这两款顶尖模型。尽管 Anthropic 推测这与模型安全护栏被绕过有关，但由于信函未披露具体细节，确切原因仍成谜。这封信目前也未向公众公开。
为了确保合规，Anthropic 随后切断了所有客户对这两款顶级模型的访问权限。结果显而易见：美国政府通过一次迅速且单方面的行动，无需法院批准，便成功迫使一家科技巨头将产品撤下线。
政治博弈而非技术故障？
特朗普政府周五的干预表明，AI 行业并非处于政府监管的真空地带，这也向整个科技界传递了一个明确的信号：要么顺从，要么面临关停。
据 Axios 援引消息人士的报道，周末期间这两大巨头之间的局势一度紧张。报道指出，引发该项出口指令的根源并非 AI 产品存在技术缺陷，而是 Anthropic 与特朗普政府之间的“性格冲突”。
随着周末更多细节的披露，政府原本就站不住脚的理由受到了更多质疑。
安全专家的反驳
网络安全资深专家、Luta Security 创始人 Katie Moussouris 在一篇博客文章中透露，Anthropic 最近曾与她分享了一份由安全研究人员撰写的私人论文，该论文描述了 Fable 5 中所谓的安全护栏绕过方法（《华尔街日报》称这些研究人员来自亚马逊）。Anthropic 曾就此咨询她的意见。
Moussouris 指出，研究人员触发安全护栏绕过的方式，根本“不足以触发出口管制”。她解释说，这其中的区别主要在于要求 AI 模型“审查代码中的安全问题”与要求其“修复这段代码”。尽管提问的方式略有不同，但最终结果大体一致。
“论文中描述的行为实际上无法从根本上修复，任何试图修复的尝试只会削弱模型的防御能力，”Moussouris 如是说。她批评这项出口管制指令过于草率、粗暴且缺乏方向。
目前，Moussouris 以及数十位顶尖安全专家已联名呼吁特朗普政府撤销该项出口管制令，认为将先进的网络安全能力从美国网络防御者手中撤走是一种“危险”的举动。
危险的先例与信任危机
过往的政府在处理知识缺口问题时也曾做出过宽泛的决定。例如，在 2010 年代，美国政府在修订涵盖网络安全工具的出口法律时，由于措辞过于宽泛，差点导致合法的安全漏洞研究被迫停止。
然而，特朗普政府此次的指令似乎带有报复性质。
Tech Policy Press 编辑 Justin Hendrix 表示，特朗普政府的这一举动“很可能会引发外国首都对美国 AI 在关键应用中可靠性的警觉”。这传递出的信息是：美国的 AI 公司无法在不受政府干预的情况下独立运营。
特朗普政府尚未确认引用该指令的具体原因。是官员误读了报告而惊慌失措？是亚马逊 CEO Andy Jassy 出于谨慎或怨恨向高层官员说了什么？还是沟通出现了误解，亦或是向 Anthropic 施压的一种手段？毕竟，政府与 Anthropic 的关系早已剑拔弩张。也有可能白宫并未意识到该信函要求的深远后果，目前官员们正忙着消除自酿的苦果。
正如 Hendrix 所言，“目前的氛围充满疑云，人们怀疑高层官员是基于个人和政治因素在挑选赢家。”其后果是，政府为控制美国软件的发布设定了一个危险的先例。
这次政府针对的是 Anthropic，明天可能就是任何一家其他公司。
关注微信号：智享开源 ，及时了解更新信息。
关注微信
还没有任何评论，你来说两句吧！