微软开源智能体行为控制标准
智能体能力提升，企业面临新挑战
随着人工智能智能体的能力日益增强，各企业竞相将它们部署到各类应用程序、工作流程和产品中。然而，这也带来了新的挑战：如何确保智能体在不同环境中部署时能够按照预期行为。
微软推出ACS开源标准
微软近日发布了一项名为智能体控制规范(Agent Control Specification, ACS)的开源标准，旨在为开发者提供一种更加一致且精细化的方式来控制AI智能体的行为权限。
自定义智能体行为政策
该规范本质上允许开发团队、合规团队和安全团队为智能体定义遵循的策略。这些规则可以明确规定智能体可以做什么、必须禁止做什么、在何种情况下需要人工批准操作，以及应记录哪些证据以供后续审查。
当智能体执行任务时，这些政策文件会在多个”拦截点”进行检查，确保智能体始终保持在安全护栏范围内。
当前控制方法的局限性
当前，开发者正在尝试各种方法来控制AI智能体的输入和输出，特别是在讨论因工具误用或导致连锁故障的非预期行为的AI工作流程时。
目前，开发者可能会在系统提示中指定指令，在应用程序代码中添加自定义检查，或使用分类器来捕获有问题的输入和输出。这些方法虽然有效，但往往导致企业拥有碎片化的控制措施，难以审计，更难以在不同框架、接口和系统间重复使用。
ACS的治理层整合
ACS旨在将这些控制措施整合到一个通用的治理层中。微软表示，该规范可用于检查智能体在工作流的多个点是否遵守护栏——在接收输入前、调用工具前、工具返回结果后，以及在向用户发送最终响应前。
政策可以允许某个操作、阻止它、删除敏感信息，甚至要求人工批准。
ACS的功能特性
- 开发者可以添加输入和输出的分类器，用于信息分类、结果预测或确定智能体的响应方式
- 可以添加带有提示的LLM作为政策的”法官”
- 可以添加检查工具调用、工具选择、输入准确性、输出使用和响应的逻辑
- 由于这些政策可以作为单个文件编写，它们可以与智能体一起打包，使安全政策能够跟随智能体跨越不同的框架和环境
广泛的生态系统支持
ACS已作为SDK发布，并支持LangChain、OpenAI Agents SDK、Anthropic Agents SDK、AutoGen、CrewAI、Semantic Kernel、Microsoft.Extensions.AI、MCP工具等多个框架和平台的插件。
关注微信号：智享开源 ，及时了解更新信息。
原文链接：https://techcrunch.com/2026/06/02/microsoft-offers-devs-a-better-way-to-control-ai-agent-behavior/
关注微信
还没有任何评论，你来说两句吧！