微软将AI智能体视为”内部威胁”，推出全新安全功能
微软推出Guardian Agents，守护企业AI安全
周一，微软宣布推出一系列新型安全功能，旨在帮助企业抵御日益增长的AI智能体威胁。此次发布的时机恰逢微软持续向企业发出警示——AI及其智能体应用潜藏风险。
其中最引人瞩目的当属Guardian Agents功能，其设计目的是监控企业所使用的各类AI智能体。Guardian Agents隶属于Project Perception产品线，该项目于今年6月首次亮相。
认知转变：威胁来自内部而非外部
Project Perception是微软为应对Anthropic公司的Mythos和Fable等强大黑客模型，以及OpenAI的安全漏洞扫描系统Daybreak而推出的解决方案。该项目最初部署了三类智能体：”红队”扮演攻击者角色，”蓝队”负责检测红队并评估漏洞，”绿队”则专注于修复这些问题。
该产品设计时预设了一个假设：AI黑客将来自企业外部。然而近期，微软首席执行官萨提亚·纳德拉不断发出警告——真正的AI威胁可能正是企业自己部署并付费使用的智能体，其风险程度堪比”内部威胁”，就像一个行为失当的员工。
纳德拉：停止对AI模型提供商的盲目信任
本月早些时候，纳德拉在其个人博客中发出警告，呼吁企业停止对AI模型提供商的信任，即便这些提供商声称其产品具备完善的安全保障措施。他主张企业应建立独立于AI实验室的监控和管控体系，以确保对智能体的有效控制。
“我们正在部署这些复杂的智能体系统和模型，赋予它们访问最敏感数据的权限，并让它们代表我们执行关键任务！”纳德拉写道，”我们不能将智能体行为的 responsabili将责任外包给模型提供商。模型提供商的安全承诺并不能免除我们的责任。换句话说，我们需要将智能的供应与其控制权分离开来。”
前沿模型为何不可信
微软安全业务主管海耶特·加洛特在介绍Guardian Agents时表达得更加直白。她指出，”前沿模型无论源自何处，都不可轻信。”她强调，这并非因为模型本身具有恶意或容易被攻破，而是由于其行为具有不可预测性——它们被训练的目标是完成任务，而非遵循”组织规范或判断标准”。
更令人担忧的是，这些智能体通常被赋予极高的权限，能够接触到数据和中枢工具，一旦失控可能造成严重损害。
商业策略与安全逻辑的平衡
微软的解决方案既出人意料，也带有明显的商业考量。出人意料之处在于，微软与OpenAI和Anthropic关系密切，对两者均有投资，OpenAI更是其云服务的重要客户。因此，微软实际上是在质疑部分自身商业利益相关方的产品可信度。
从商业角度看，微软希望企业采购由自己提供的智能体安全产品，而非来自Anthropic和OpenAI的同类产品。但抛开利益冲突不谈，其逻辑是站得住脚的：监控智能体行为的软件应当独立于智能体供应商，正如审计师必须与被审计机构保持独立一样。
正如纳德拉所言：”我们需要将智能的供应与其控制权分离。”
微软的多维度防护方案
微软正通过多种方式抓住这一市场机遇。除Guardian Agents外，微软 Defender产品新增了智能体检测功能，能够识别员工带入工作场所的60多种智能体类型，包括Claude Code、Codex和OpenClaw等。此外，微软还增加了限制智能体对数据和系统访问的功能，并能根据任务动态调整智能体的权限。当智能体似乎要做出高风险决策时，系统会要求人类审批。
行业共识：智能体安全成普遍关注点
“智能体如同不可信的内部威胁”这一理念正在更广泛的科技行业中得到认同。
微软是英伟达新推出的Open Agent Safety Platform的创始成员之一，该平台已获得超过100家科技公司的支持。该平台将智能体隔离在安全环境中，可通过硬件层面进行监控和拦截，类似于紧急停止开关的功能。紧随其后，微软宣布了专为智能体设计的Surface Laptop Ultra笔记本电脑，采用英伟达芯片，并将智能体安全控制功能内置其中。
关注微信号：智享开源 ，及时了解更新信息。
公众号：智享开源
还没有任何评论，你来说两句吧！