人机协同，数字弹性倍增

智能体AI正在显著提升IT和安全团队的工作效率。然而，它同时也移除了长期以来培养经验丰富操作者的传统学徒制。

当组织自动化更多原本由初级分析师和工程师完成的工作时，他们面临着一个与人才设计同等重要的架构设计挑战：当AI承担了曾经用于培训他们的工作时，如何构建下一代的专家人才。

初级团队的传统职责

在过去二十年中，成为一流的安全运营(SecOps)分析师、站点可靠性工程(SRE)或网络运营(NetOps)工程师的路径都离不开重复性工作。

对误报进行分类排查，在仪表板中寻找上下文信息，凌晨阅读最终被证明是良性的日志。行业普遍将这些工作视为苦差事，某种程度上确实如此。

但这也构成了宝贵的学徒制。

分析师投入数千小时研究流量模式所培养的直觉，使其在真正的攻击来临时变得无价。这种直觉不是通过单一课程传授或通过运行手册捕捉的，而是通过接触、模式识别、失败和经验积累形成的。随着时间的推移，人们就是这样获得深度分析经验的。

然而，智能体AI现在开始自动化那些曾经作为专业知识培训基础的任务。这不应成为减缓自动化的理由。毕竟，这些重复性工作成本高昂，职业倦怠现象真实存在。组织应当尽可能利用智能体减少繁重工作。

同时，在我们移除这一学徒循环时，我们需要为操作者提供更好的替代方案。组织当前如何应对这一问题将决定未来的赢家。

那些有意识应对这一问题的组织将培养出能够在未来十年取得成功的操作者技能。而那些回避这一问题的组织，今天可能拥有更快的系统，但明天却可能缺乏足够深入理解系统的人才来进行有效管理。

自动化如何削弱问责制

这一讨论还有第二个维度，它理应获得更多关注。

在受监管的环境中，学徒制的苦差事构成了问责层的一部分。从SOX到PCI DSS再到HIPAA乃至NIS2等框架，都假设控制决策背后存在一系列人为判断。

审计师不会采访模型，他们会采访能够解释系统为何做出特定行为、决策为何合理以及适当控制措施是否到位的人员。

当能够解释这一判断链的专业人士数量开始减少时，风险可能不会立即显现。控制措施可能仍然通过，工作流程可能仍然执行，仪表板可能仍然显示绿色。

但底层的组织记忆开始变得空洞。

这不仅是一个工具问题，也是一个人才技能和设计问题。对于正在快速推进智能体采用的组织而言，这一风险比许多人想象的更为接近。

构建治理AI的人类专业知识

当我们将一部分问责层交给智能体时，人类将进入不同的治理角色。治理智能体系统意味着实施能够适应非确定性智能体行为的自动护栏，确保智能体在无人完全预见的情况下行为适当。这意味着设计能够捕捉正确异常而不会因错误警报淹没人类的升级标准。这意味着实施动态工具、警报和流程来审查机器决策，以检测单一个案无法揭示的漂移、偏见和推理失败。

评估和响应这些异常的能力需要多年经验积累的判断力，以及旧学徒模式曾经培养的模式识别能力。

这就是为什么人才问题和架构问题现在已成为同一个问题。如果我们期望人类治理日益自主的系统，我们需要有意识的途径，帮助人们管理AI系统的规模和速度，同时培养人类操作者所需的直觉和判断力来完成这项工作。

在AI时代，最有价值的平台不会简单地自动化最多的任务。它们将帮助人们随着周围系统变得更快、更智能而变得更强大、更可信、更不可或缺。

这意味着组织需要为操作者投资完整的专业知识生态系统：传播共同实践的社区、使专业知识可见的认证或其他证明、AI中以人为中心的解释和验证，以及构建能力的学习路径。赋权是一种架构设计选择

人类赋权是AI实际应用讨论的关键部分。然而，如果没有有意的策略支持这一点，它可能变成一种空洞的口号，因为它可以意味着任何事情。

智能体系统的赋权不能只是一个概念要求。它必须是一组设计选择，融入到系统的行为方式中。一个为其人类操作者赋权并提升其专业技能的智能体系统会做四件事：

1. 展示推理及其数据来源

智能体做出的每项建议都应可追溯至其考虑的数据、应用的逻辑和使用的输入来源。能够看到推理的操作者会培养出何时信任它的判断力。而只得到结论的操作者则无法做到这一点。

2. 按置信度和影响分层权限

熟悉且低风险的模式可以自主处理。新颖的情况或具有重大影响范围的行动应默认升级。边界应由承担后果的团队明确配置。

3. 将分歧视为纠正信号

当经验丰富的工程师覆盖智能体的决策时，他们不仅仅是持不同意见。他们正在用模型所不具备的判断力纠正系统：脆弱的依赖关系、环境的异常、数据从未见过的约束。一个记录覆盖但忽略背后推理的系统，无法从人类更了解的那一刻中学到任何东西。

4. 将解决方案捕获为跨领域知识

事件如何解决的很少只停留在单一领域。安全运营事件可能暴露IT运营的弱点。网络问题可能追溯到业务影响。当这种联系仅存在于封闭的工单中，下一个遇到它的团队将从零开始。解决方案应该跨领域传播，而非停留在被提交的地方。

这些不是理想化的品质，而是可测试的产品功能。评估智能体系统的领导者应该能够识别这些功能所在的位置、它们失效时会发生什么，以及部署后操作者技能是否得到提高。

下一个优势是人机协同扩展

要让AI系统实用、可信并能大规模工作，关键设计点是AI与人类操作者深度协同并赋能。

因此，智能体时代不是关于取代人类的故事，而是重新设计人类操作的系统能够以机器的速度和规模运行，同时人类专业知识也在同步增长。协同发展，而非相互牺牲。

这一结果并非必然。它只会发生在将操作者发展视为优先事项而非事后考虑的领导者所在的组织。为此，智能体系统必须有意识地设计，以展示推理、捕捉学习并将工作路由回人类的方式，建立技能和职业而非侵蚀两者。

智能体将继续变得更智能、更快。与它们一起工作的操作者的能力也将…

关注微信号：智享开源 ，及时了解更新信息。