摩根士丹利创新：适度控制智能体，风险对账减半

目前，大多数企业AI应用主要集中在编程助手和客户服务机器人上。摩根士丹利则另辟蹊径，将智能体应用于银行业最注重准确性、时间紧迫的工作流程中——损益(P&L)对账，并将这项工作的工作量减少了一半。颇具反直觉的是，这一成就并非通过增加系统自主性，而是通过降低自主性实现的。

人类紧密地参与其中，他们的决策被逐步转化为系统可以独立应用的重复性规则。

“与其说它是一个副驾驶，不如说它更像一位同事，”摩根士丹利董事总经理托德·约翰逊在最近的一次VB AI Impact活动上表示。这一名为FIXR的内部生产级智能体系统，超越了简单直接的”生成式AI 1.0″任务范畴。”我们认为这才是真正释放组织内更复杂工作潜力的机会所在。”

FIXR系统内幕

在每个交易日，摩根士丹利的交易部门负责处理现金股权或债务投资等重要交易工作。

在每个交易日结束时，控制人员必须对这家金融巨头在财务、风险、运营和交易捕捉系统中的损益进行对账。所有这些数据必须整合在一起，而令人毫不意外的是，数十万个属性经常无法匹配。

通常，这意味着控制人员必须手动调查每个不匹配项（或称”差异”），做出调整决策，然后在数据发送到交易台前完成审批。所有这些工作都要在严格的上午截止期限前完成。

约翰逊表示，以前完成一本书的对账工作可能需要长达六小时。现在，FIXR系统只需两到三小时即可完成这一任务。在大约100名从事此项工作的控制人员中，每周总共节省约1,500小时。

在每日损益计算完成后，系统会自动分析”差异”并根据已学习的规则提出解决方案。多个智能体协同工作：

• 一个智能体解读过去的指导方针，制定开盘前的解决方案。
• 一个智能体从控制人员的行为中学习，并记录他们应用的规则。
• 一个智能体将重复的模式转化为持久的自动化逻辑。

随着时间的推移，系统可以自动清除之前遇到的某些差异，对可能不太熟悉的差异提出解决方案，在不确定时寻求帮助，并标记需要人工调查的项目。当项目通过相同方法被重复解决时，系统可以创建固定的规则。

关键在于，人类并未脱离流程，而是完全参与其中，他表示。他们会审查、批准或纠正每项建议，然后将这些决策反馈回去以改进下一次运行。智能体每天从控制人员那里学习自己的对错，并在迭代过程中将这些知识编码化。

“即使在开始自动化的过程中，你仍然保留了人类问责的元素，”约翰逊表示。”随着时间的推移，你会看到越来越多的项目以自动方式得到解决。”

他强调，自主性需要大量的信任；如果每个人都在检查智能体的每一项工作，企业就无法获得效率提升。

人机反馈循环对于解决受控、可测量和可重复自动化的挑战至关重要。”我们认识到，控制器头脑中的所有智能很难在第一天就全部转移到智能体中，”约翰逊说。

聚焦流程优先，注重可扩展性

约翰逊表示，在引入任何AI之前，首先确立流程是至关重要的。他的团队进行了”非常彻底”的流程智能评估，通过映射和分析工作流程，确定自动化最具优势的地方：解决方案是智能体、传统自动化，还是简单地重新设计低效步骤？

“如果我们在添加智能体解决问题之前能够先解决这些问题，那么我们才能真正转变机会，”他表示。

他表示，损益审批流程充满了适合自动化的手动步骤，而智能体接管其中一些耗时的任务，使控制人员能够腾出时间进行”更具增值价值的分析”和”更深入的风险考量”工作。

然而，可扩展性与时间节省同样重要。约翰逊的团队选择这一特定的损益对账用例，是因为全球业务范围内（包括美洲、欧洲和亚洲）有数百名控制人员正在从事这项工作。

“因此，从一个用例开始，验证它，扩展它，然后随着我们在组织内越来越多地推广，最终实现转型，”约翰逊说。

设计上的确定性

约翰逊表示，团队还故意限制了工作流程中依赖模型判断的程度。”如果你有机会使事物变得非常规定化和可重复，那在令牌消耗方面更经济，在控制方面更可重复——并让大型语言模型执行那些不需要确定性工作流程的任务，”他说。

随着系统对特定类型的差异获得更多控制人员的反馈，摩根士丹利将这种模式转化为固定规则，而不是留给模型处理。

人类仍需负责行为

在智能体时代黎明之际，一个有趣（或许根本性）的问题是：智能体是代码还是数字员工？

约翰逊认为，”它们可能两者兼有”，因此，在治理和监督方面需要细致入微的考量。例如，技术团队仍需负责维护防火墙或加密等保护和保障措施。

但在”绩效元素”方面存在一种新的动态：使用智能体的人类要对其负责，因为它有助于他们的业务工作。例如，约翰逊指出，如果高级控制人员与初级控制人员合作，他们不会因为有人帮忙就放弃责任。

“我们AI治理的一个基本原则是，即使存在一定程度的自动化，也必须始终有人类问责，”他说。

但通常不是”某一个人”负责，这个过程最终是持续的。就此，约翰逊开玩笑说，智能体AI的一个”令人沮丧”之处是它需要持续培训，因为模型在不断变化。

“你永远不能说：’我们已经完成了所有需要的评估和测试。让我们放手不管吧。’你必须随着它的演变持续关注。”

摩根士丹利瞄准企业真实痛点

摩根士丹利的经验反映了VentureBeat在企业AI部署中发现的模式。

在VentureBeat最近的VB Pulse调查中，近四分之三的受访者表示，从定制模型微调中看到的投资回报率微乎其微，他们将那些被证明维护成本过高的AI项目描述为”沙盒墓地”。这表明，摩根士丹利以流程为先、购买并融合的方法可能比追求定制模型更可持续。该调查有87名受访者，结果应被视为方向性的。

治理是另一个共同挑战：38%的受访者将缺乏单一责任所有者视为生产AI的最大障碍，而在调查的87家企业中，只有两家设有主动监控和预警系统来检测模型故障。

关注微信号：智享开源 ，及时了解更新信息。