网络监控：AI智能体安全的创新之道
引言
Brex公司首席执行官佩德罗·弗朗切斯基在VB Transform 2026大会上，为当今企业面临的一项紧迫挑战提供了解决方案：如何安全地将智能体（如开源的OpenClaw）部署到生产环境中。
释放这一企业价值需要思维模式的转变。整个行业需要超越模糊的术语，专注于具体的企业角色。
“人们经常谈论智能体，但我认为’智能体’这个名字很糟糕。这是硅谷的一个概念，实际上没有太多实际意义，”弗朗切斯基说道。
相反，目标应该是创建能够真正与人类员工协作的实体。”我们一直想到的概念是虚拟员工——一个在Slack上的实体，它有电子邮件地址，可以参加会议，你可以给它发邮件，并且可以与之协作，”弗朗切斯基解释道。
实现这一愿景需要新的安全范式。弗朗切斯基的演示详细介绍了Brex如何将OpenClaw指向内部角色，发现传统安全模型失效，并构建了一种名为CrabTrap的新型网络级安全层。
OpenClaw的安全困境
这一旅程始于去年12月的一次突破，当时编码模型达到了足够成熟的水平，使得今年1月能够发布OpenClaw。这标志着智能体终于可以自启动并维护自己的代码库，而不是依赖硬编码的静态工具。
然而，当弗朗切斯基提议部署OpenClaw来自动化内部功能时，Brex安全团队坚决反对。”他们说’绝对不行。我们怎么能信任一个做这些事情的智能体？这个东西有代码执行能力。无法控制它，'”弗朗切斯基回忆道。
这种谨慎并非Brex独有——企业普遍对在网络上授予智能体不受控制的代码执行权限持谨慎态度。
为了解决这个问题，Brex必须转移安全边界。弗朗切斯基将其与Nvidia的NemoClaw等方法进行了对比，后者通过限制智能体的工具使用来确保安全——他认为这种方法削弱了赋予智能体价值的编码能力。
“…我们的前提是，编码能力对模型执行各种任务的能力至关重要，”他说。
Brex的解决方案是将安全边界转移到网络层。与其监控容器内部不断变化的代码，不如关注代码实际上试图向外界发送或接收什么。
CrabTrap与大语言模型作为裁判的解决方案
这种以网络为中心的方法催生了CrabTrap的诞生，这是Brex构建的一个开源HTTP代理。其运作基于这样的假设：OpenClaw可以做任何事情，并且可能已经被入侵。因此，CrabTrap监控容器与互联网之间的所有出站网络流量，使用大语言模型(LLM)判断该流量是否符合智能体批准的策略。
“不要试图控制容器中运行的代码，而是假设它可以做任何事情，并监控该容器与互联网之间的网络流量，”弗朗切斯基解释道。
使用大语言模型评估每一个网络请求会带来不可接受的延迟，通常为响应时间增加数千毫秒。Brex通过分流系统解决了这个问题。常规、低风险操作通过静态、预批准的规则即时通过。如果招聘智能体尝试查看LinkedIn个人资料，静态规则允许通过。然而，发送邮件等高风险操作会被标记并路由到LLM裁判进行评估。弗朗切斯基表示，这种架构确保只有约2%的复杂请求实际上面临LLM延迟。
项目的一个惊人发现是LLM裁判在此角色中的有效性。弗朗切斯基将其归因于模型的训练：LLM接触到数十亿网页和HTTP请求，赋予了他所说的对网络流量模式的内在语义理解。
“[模型]非常擅长辨别什么符合政策，什么不符合，”弗朗切斯基说，补充说这种能力通过预训练自然产生，不需要大量提示。
Brex使用”吉姆”（Jim）测试了这一基础设施，吉姆是基于OpenClaw构建的虚拟招聘员。吉姆处理各种任务，包括寻找候选人、评估申请者和发送邮件。
当吉姆尝试超出既定政策的操作时，CrabTrap依赖人工参与工作流。如果LLM裁判标记了未批准的出站邮件，CrabTrap会在Slack上通知人类经理。
Slack通知解释了智能体的基本意图，并建议允许该操作的政策更改。人类经理然后可以审查上下文并点击”是”或”否”来动态更新规则。
“我喜欢虚拟员工的类比，因为许多问题已经在人类工作背景下在公司中得到解决，”弗朗切斯基说。”当员工遇到障碍时，他们会升级给他们的经理。”
前沿的成本
Brex是一家金融科技公司，不是网络安全供应商。选择内部构建CrabTrap的动力在于缺乏能够满足其安全团队要求的成熟商业解决方案。
弗朗切斯基承认在尖端领域运营的固有成本，承认商业供应商解决方案可能会迎头赶上。
“当我们构建它时，我很清楚有70%的可能性我们会在六个月后把它扔掉…但通过提前六个月获得的经验，在塑造我们的AI采用策略方面是值得的，”他说。
构建内部工具的投资为Brex提供了在更广泛市场之前几个月安全部署智能体所需的经验。对于在AI领域导航的企业领导者来说，核心启示是构建在智能体世界中运营所需的文化和技术能力的必要性。
“我们没有所有答案，但答案不是什么都不做，”弗朗切斯基总结道。
关注微信号：智享开源 ，及时了解更新信息。
公众号：智享开源
还没有任何评论，你来说两句吧！