专家联名抗议美政府封禁Anthropic最强AI模型
行业专家联名抗议
近日，一个由数十位资深网络安全专家组成的团体发布了一封公开信，强烈敦促美国政府撤销针对Anthropic公司Fable和Mythos模型的出口管制令。专家们在信中指出，这一禁令实质上剥夺了网络安全防御者手中最有效的武器，导致他们无法利用这些顶尖模型来挖掘系统漏洞，进而难以提升软件及产品的整体安全性。
公开信中严厉写道：“在对手技术突飞猛进的当下，没有任何正当理由就剥夺防御者最强有力的能力，这是一种极其危险的做法。”
美国政府突下禁令
就在上周五，美国政府以国家安全为由，突然下令Anthropic限制其Fable和Mythos模型的出口，但并未具体说明下达此命令的详细依据。作为回应，Anthropic公司已宣布暂停向全球所有用户提供这两个模型的访问权限。这一举措在安全行业内引发了轩然大波。
重量级人士强力声援
截至目前，这封公开信已获得76位网络安全专家的联署支持。签名名单中不乏行业内的重量级人物，主要包括：
- 前Facebook首席安全官 Alex Stamos
- 知名漏洞赏金平台Bugcrowd创始人 Casey Ellis
- 著名密码学家、前苹果安全设计架构经理 Jon Callas
- 计算机科学家 Paul Vixie
- Block前应用安全工程负责人 Dino Dai Zovi
- Luta Security创始人 Katie Moussouris
- 安全意识培训公司SocialProof Security首席执行官 Rachel Tobac
所谓“越狱”实为误读
Anthropic推测，白宫的管制令可能基于一份报告，该报告声称存在一种方法可以绕过Fable的防护机制（即“越狱”），从而释放出Mythos级别的强大能力。联署人之一Katie Moussouris透露，该方法源自亚马逊研究人员撰写的一篇尚未公开的论文，她已对此进行了审阅。
Moussouris在博文中驳斥了“越狱”的说法。她指出，论文中描述的并非真正的攻击手段，而是研究人员在模型最初拒绝审查代码安全问题后，要求Fable修复包含公开已知漏洞及“故意植入漏洞”的开源代码。
“这种行为无法通过有意义的方式去‘修复’，任何试图屏蔽它的尝试只会削弱模型的防御辅助能力，”Moussouris写道，“防御者需要能够要求AI修复漏洞、解释修复原因并编写测试用例。这不是绕过防护，而是AI模型对防御性安全最大的价值所在——即完美执行防御者日常的‘发现、修复、测试’循环。”
关注微信号：智享开源 ，及时了解更新信息。
关注微信
还没有任何评论，你来说两句吧！