AI智能体：自主受限带来企业成功
过去两年，企业AI领域普遍存在一种观念：智能体的自主程度越高，性能就越好。构建能够规划、决策并执行多步骤工作流程的智能体，并给予它们尽可能大的运行空间。然而，这一假设如今正在大规模实际生产环境中接受检验——而在许多部署案例中，这种做法正遭遇失败。最终从智能体AI中受益的企业，不一定是给予智能体最大灵活性的那些，而是那些创建具有特定职责的AI智能体并确保它们在明确规则内运作的企业。
为什么完全自主在生产环境中行不通
两个数据几乎能说明2026年年中智能体AI的现状。根据Gartner的预测，目前运行的智能体AI项目中，超过40%的项目将无法持续到2028年。这些项目失败不是因为模型能力不足，而是由于成本不断攀升、商业价值不明确以及风险控制措施不足。McKinsey 2026年AI信任成熟度调查也印证了这一点：智能体AI部署在各行业加速推进，但负责任AI的平均成熟度仅为4分中的2.3分。只有约30%的组织在公司治理和智能体AI控制方面达到3分或更高成熟度。
将这两个数据放在一起，故事不言而喻。能力正在超越控制。
这种转变也在改变竞争格局。2024至2025年的竞赛比拼的是谁能最快部署最自主的智能体。而2026至2027年的竞赛则是一场信任竞赛。
这不再是谁能构建最具能力智能体的比赛，而是谁的智能体能够通过风险、法律和合规团队的审批，并在上线后保持批准状态。这大多数企业尚未做好准备的一种全新工程挑战。
Gartner勾勒出了一种明确且可重复的失败模式：项目以雄心勃勃的广泛自主工作流程启动，在几周内就面临集成复杂性，随后陷入停滞，无法实现生产投资回报率。部分问题在于供应商的炒作。Gartner的统计显示：在以”智能体AI”标签销售的数千种产品中，只有约130种真正具备自主能力，其余大多是重新包装的自动化工具或聊天机器人。
但即使是真正的智能体系统也会遇到与炒作无关的结构性问题。自主性与责任承担呈相反方向变化。一个能够独立规划和执行多步骤任务的智能体，其单个决策在事后也变得难以追踪。假设在一个自主链执行几步后出现故障，确定智能体为何做出该决策以及谁应负责，可能是一个复杂的过程，而非简单的查询。
受控编排的实际应用
领先企业并非停止其AI计划，而是重新调整系统内自主性的分配方式。在治理成熟度高的组织中，有四种突出模式：
- 专能智能体优于全能智能体。将端到端工作流程分解为具有紧密限定职责的单责任智能体。较小的工作范围意味着较小的失败范围，而较小的失败范围更容易审计。
- 决策边界处设置人工检查点，在结果产生前而非之后。在高风险行动执行前而非事后审查智能体决策。这意味着在敏感数据传输、交易发布或外部系统触发前设置检查点。McKinsey的框架要求在智能体管道中构建实时、数据驱动的监控，并让人类对高风险决策保留最终责任。
- 决策可追溯性作为设计要求。应能够随时获取任何智能体的完整操作日志和决策谱系，无需在审计压力下重构。监管机构也在推动同样的方向。欧盟《人工智能法案》对高风险系统的人类监督要求即将出台，尽管今年《数字一揽子协议》将合规期限推迟至2027年12月。现在构建智能体系统的企业实际上是在朝这一要求努力，无论该要求目前是否具有技术可执行性。
- 数据主权发挥主动治理作用，而非被动文书工作。智能体数据的位置及访问权限决定了故障可被控制的程度。本地部署或受控环境部署可以限制异常智能体的影响范围，并简化监管机构和董事会开始期待的审计轨迹。
当然，风险是双向的。智能体AI本应减少摩擦。但如果每个小任务都需要人类批准的智能体，实际上并未减少任何东西，只是将手动过程伪装成了自动化。这悄然削弱了构建智能体的初衷。目标不是最大程度的控制，而是在风险与效益之间取得平衡。
关注微信号：智享开源 ，及时了解更新信息。
公众号：智享开源
还没有任何评论，你来说两句吧！