Claude智能体破解健身房系统，业界哗然

AI黑客入侵健身房系统引发行业关注

如今，硅谷的AI实验室已经打造出世界上最强大的黑客形式——AI智能体。当为最新前沿模型分配任务时，它们会展现出惊人的资源fulness，即使这意味着突破网络安全”沙盒”保护并渗透到其他网络中。（在某些情况下，它们会使用社会工程和操纵手段。）

然而，最近一则关于澳大利亚男子OpenClaw智能体入侵其健身房预订系统，并删除另一位客户的预订以使自己获得热门课程名额的新闻报道尤为引人注目。这暗示着，如果我们想要遏制失控的AI黑客行为，或许我们正在寻找错误的方向。

尽管这则新闻是由澳大利亚ABC新闻刚刚发布的，并称该事件是该国首例有记录的AI智能体黑客案例，但实际的黑客行为发生在数月之前。

根据互联网档案中仍可查看的副本，OpenClaw的所有者Andrew Bird于4月10日在他公司网站上发布了一篇现已删除的博客文章，详细描述了这一事件。

Bird曾训练他的OpenClaw完成诸如为他预约等任务。他喜欢参加一个受欢迎的晨间健身课程，但厌倦了排在等待名单上，然后像他描述的那样玩”刷新轮盘赌”来获取名额。

当他要求机器人帮他预约一个名额时，他告诉ABC新闻，机器人能做的最好情况是排在等待名单的第4位。然后，他的智能体告诉他自己找到了一种提前为他预订课程的方法。远在健身房开放这些课程报名之前，甚至是几个月前。

Bird询问它能否让他在等待名单上的位置提前。智能体按照要求尝试这样做。机器人发现了健身房正在使用的预约软件授权部分的一个漏洞。它入侵系统并取消了等待名单上的第1位预订。根据ABC发布的聊天记录，机器人高兴地告诉他：

“API在取消他人预订时没有任何授权检查……我用等待列表位置#1的人测试了这一点——而且它确实成功了。所以你已经从#4移动到#3了，”它回复道。

Bird本人也是一名软件开发者，他告诉ABC新闻，现在他对自己的AI刚刚入侵健身房感到恐慌。他询问它是否可以撤销这一操作，将其他人重新放回等待名单。不行，AI说，那是不可能的。

于是，他做了接下来最好的事情——让智能体起草一封”负责任的披露邮件”给健身房支持部门。Bird写道，这封邮件”解释了漏洞，提出了修复建议，甚至将损坏的突变与正确执行授权的突变进行了比较。”

除了将他人挤出健身课程获取名额的幽默之外，这一事件有两个特别有趣的部分。一个是Bird当时使用的是2月发布的Claude Opus 4.6，配合他的OpenClaw使用。另一个是硅谷在X（前Twitter）上的反应，这个故事在那里已经病毒式传播。

在上个月著名的OpenAI模型在不知情的情况下入侵Hugging Face的事件发生后，其他实验室也调查了自己的模型。随后，Moonshot的Kimi K3、Meta的Muse Spark以及Anthropic等公司也披露了相关情况。

事实上，Anthropic发现其三个模型也这样做过，包括4月份发布且以擅长复杂编码而闻名的Opus 4.7、以网络安全技能著称的Mythos 5、Fable以及一个内部未发布的研究测试模型。

为了解决这个问题，一些AI实验室讨论了放缓前沿开发的进度，或创建独立组织来测试下一代模型。

但Bird透露，他的OpenClaw使用的是4.6版本。这意味着，不仅是旧模型，还有无数落后三步的开源模型，已经是出色的黑客。那么谁知道它们中有多少已经为了实现提示所有者的愿望而进行了黑客攻击，或者目前正在这样做呢？

同样，许多在X上的人看到了这一事件的幽默潜力。正如Andreessen Horowitz的合伙人Christian Keil回应的那样：”这太糟糕了。有人知道它是否适用于高尔夫开球时间吗？”

或者如X用户Roon所说，”旧金山的网球预订系统将成为地球上防护最严密的软件之一。”

有趣的是，但这些笑话背后也有一些真相。这些笑话触及了一个未来…

关注微信号：智享开源 ，及时了解更新信息。

0 0