智能体企业：构建学习型未来

Mark Do 暂无评论阅读 10 次

智能体企业：构建学习型未来

由Splunk提供

每天，组织都在获取其AI系统永远无法利用的知识。

安全分析师纠正AI生成的调查结果；网络工程师确定反复性中断的根本原因；可观测性团队发现延迟模式、日志和基础设施变更的组合预示着服务降级；客户运营团队了解到哪些信号表明升级即将发生。

每个时刻都包含宝贵的组织知识。但在大多数企业中，这些知识消失在工单、仪表盘、聊天线程、事件回顾和个别专家的脑海中。它们或许能解决眼前问题，但很少成为可复用系统的一部分，以改善未来的AI驱动决策。

这就是智能体企业面临的下一个挑战。

未来不仅由拥有最强大模型或最自主智能体的企业定义。许多组织将能够获取类似的尖端模型。许多将在安全、IT、工程、客户服务和业务运营等领域部署智能体。

真正的区别在于这些智能体能否从周围组织环境中学习。

不是通过不断重新训练底层模型，而是通过捕获运营经验，将其转化为组织知识，并使这些知识对未来智能体、工作流程和决策可用。

智能体企业不仅仅是使用AI的企业，而是通过AI学习的组织。

智能体企业让AI系统能向组织学习

AI讨论一直由模型能力主导：更大的上下文窗口、更好的推理能力、更快的推理速度、更强的工具使用能力，以及更复杂的智能体行为。

这些进展确实重要。但在企业环境中，模型只是系统的一部分。

模型不会自动了解特定组织的运作方式。它天生不知道哪个修复步骤解决了上个月的中断，哪些分析师改进了威胁调查，哪些网络信号预示着服务中断，或者哪些内部政策应该覆盖其他看似合理的建议。

这些知识属于企业。

为了让智能体系统改进，组织需要捕获这些知识并使其可重用的方法。在许多情况下，这不需要改变模型本身。它需要改变模型周围的生态系统：知识库、检索层、提示、政策、护栏、路由逻辑和塑造智能体行为的工作流程。

模型可能保持不变。围绕它的学习系统变得更智能。

每个智能体工作流程都会产生信号。

智能体接收请求，检索上下文，推理可能的行动，调用工具并生成答案。人类接受、拒绝或修改该答案。下游系统揭示行动是否有效。

整个链条都具有价值。

AI可观测性使组织能够了解发生了什么：提示、响应、推理路径、工具调用、数据源、中间步骤、失败模式和结果。没有这种可见性，组织无法理解智能体为何以某种方式行事，更不用说改进它。

但可观测性本身是不够的。

更大的机会是将观察到的行为转化为组织知识。追踪记录不仅应该帮助开发者和运维人员调试智能体，还应该帮助组织了解智能体学到了什么，人类做了什么纠正，结果如何，以及下次类似事件发生前应该做出什么改变。

这就是从监控AI转向教导AI的转变。

在智能体企业中，反馈循环连接行动与结果，结果与知识，知识又回到未来的行动。

考虑一个经历间歇性降级的服务。

可观测性智能体检测到异常的延迟和错误率；网络智能体识别特定路径上的数据包丢失；安全智能体注意到同一时间段内包含可疑的身份验证行为和来自前所未见来源的异常流量。

单独来看，每个智能体只有部分视图。合在一起，它们创建了更丰富的运营图景。

第一次发生此类事件时，人类专家可能需要介入。网络工程师确认数据包丢失是由错误配置的路由变更引起的；安全分析师确定可疑流量不是攻击，而是错误路由的内部服务的副作用；SRE将网络事件与应用降级联系起来。

这种解决方案包含组织不应该重新学习的知识。

成熟的智能体学习系统会捕获追踪记录、人工纠正、拓扑上下文、安全发现、可观测性信号和最终修复步骤。它会保留这些信号之间的关系：延迟模式、网络路径、身份行为、路由变更和修复措施。

下次出现类似模式时，智能体不会从零开始。它们可以检索先前案例，比较当前条件，建议经过验证的诊断路径，并以更好的上下文进行升级。

底层尖端模型不需要重新训练。

企业学会了。

以学习为导向的智能体企业需要的不仅仅是模型或聊天机器人。它需要一种能够捕获经验、将其转化为可用知识、将知识与运营上下文连接起来，并管理知识如何改变未来智能体行为的架构。

记忆：保留发生的事情：智能体看到了什么，做了什么，人类在哪里介入，以及结果如何。
知识库：将经验转化为可重用的指导，包括剧本、示例、政策、程序和证据。
数据编织：连接运营环境。智能体需要的信号分布在日志、指标、追踪记录、工单、身份系统、安全工具、网络遥测、协作平台和业务应用程序中。数据编织使这些信号可被发现、关联、治理并在上下文中使用。
AI可观测性：通过捕获提示、工具调用、中间步骤、响应、反馈和结果来解释智能体的行为。这种可见性帮助组织了解智能体在何处成功、在何处失败以及应该改进什么。
控制平面：管理学习如何转化为改变：哪些知识被提升，哪些提示或政策被更新，哪些智能体可以使用新信息，需要哪些批准，以及如何审核变更。

这些能力共同使AI系统能够以受控、可信的方式随时间改进，让企业能够从自身运营中学习。