开放权重模型赋能Capital One多智能体AI平台

开放权重模型构建多智能体AI平台

Capital One机器学习工程副总裁Kel Vanee在VB Transform 2026大会上表示，该银行围绕深度定制的开放权重模型构建了可扩展的多智能体AI架构，而非依赖现成的基础模型。

“在Capital One，我们不仅仅是使用AI，我们正在构建AI，”Vanee强调道。

这一技术基础源于Capital One多年前在数据转型和云采用方面的早期投资，这些投资为应对当前AI浪潮提供了快速行动的基础。这一技术基础使公司能够做出多项深思熟虑的架构决策，包括构建集中式企业级AI平台，内置治理功能；利用专有数据深度定制开放模型；以及构建自己的多智能体编排工具。

与完全依赖现成前沿模型不同，Capital One利用其丰富的专有数据对开放权重模型进行微调。

“我们将数据视为巨大优势，这是其他人都无法拥有的，也是通用前沿模型无法提供的。因此，我们利用这些数据深度定制这些模型，”Vanee解释道。他补充说，在实时客户或员工交互中引入新鲜上下文时，实时数据至关重要。

Vanee还揭示了这一方法带来的意外好处：企业范围内的可扩展性。

“当我们为一个用例定制这些开源模型时，我们实际上在整个产品组合中都看到了好处，”他指出。”我们正在训练这些模型，使其成为Capital One用例、政策和术语的专家。在进行这种训练时，我们看到了整体的性能提升。”

以客户服务工作流程为例，Vanee提到了每年处理数百万次银行欺诈来电的工作流程，这些通话时长从4分钟到60分钟不等。最初尝试使用单一大型语言模型的证明不足。通过Capital One的多智能体工作流程(MACAW)，交互通过内置治理和安全护栏的专业智能体进行路由。

“MACAW工作流程由多个不同的智能体组成，”他说。”第一个是理解智能体，其目的是分析客户所说的内容，并尝试理解他们的意图。”

接下来，推理智能体会获得几个特定指令来生成摘要；验证智能体会对摘要进行事实核查以确保准确性；解释智能体将摘要转换为包含所有必要细节的格式化文档，然后与其他智能体共享。

对于消费者银行业用例，这一工作流程帮助了数百名专注于复杂欺诈电话的客户服务智能体。它生成的通话后摘要有助于记录冗长的来回交互，而智能体以前必须手动重建这些交互。

Capital One的多智能体架构也支撑着面向客户的自动购物助手Chat Concierge，它进一步利用了经过Capital One专有数据定制的Meta开放权重Llama模型版本。它采用相同的劳动分工，一个智能体与客户对话，一个根据业务规则构建行动计划，一个评估准确性，一个解释和验证结果。

除了面向客户的解决方案，Capital One还利用智能体AI为其员工自动化日常任务，帮助他们专注于工作的高杠杆方面。在一个例子中，该公司构建了自主智能体优化解决方案来调整后端托管基础设施。

Vanee解释说，在大型语言模型的世界里，每天都有新的优化方法出现，但这些方法并不都是互补的。结合两个好的优化有时可能导致性能下降。

“这个智能体系统将遍历研究人员设计的搜索空间，处理设置和运行实验的所有机制，然后将完整的结果摘要呈现在研究人员面前，”Vanee说。

Vanee补充说，该系统使研究人员能够”找到真正能给他们带来最佳延迟的一系列优化和配置。”

展望未来，Vanee看到的一个大趋势是路由抽象层，这些层试图在多个模型上验证性能，同时兼顾成本和准确性。

“我们实际上认为，通过在更广泛的可用模型集合中进行路由，你可以获得比任何单个模型更好的准确性，因为不同的模型在不同领域会表现出色，”他说。

他的第二个预测是向不需要等待请求的系统转变，同时强调部署此类主动智能体需要严格的测试和监控。

“我认为未来将变得更大的是更加主动和事件驱动的AI，”Vanee说。AI不是等待人类提示，而是在检测到需要行动的条件时立即介入。

“这将实现更大规模的监控，并在我们打击欺诈和把握机遇时赋予我们能力，”Vanee说。”因此，主动AI将成为一个非常重要的趋势。”

Capital One的方法为企业技术领导者揭示了一个更广泛的真理：通过AI实现可衡量的价值，需要超越现成软件，转向深度定制、高度治理的架构。通过结合微调的开放权重模型、多智能体编排工具和专有数据资产，该银行已建立了在金融服务领域部署可扩展AI的可重复蓝图。

“所有这些成分对于在这一领域实现差异化并达到我们自己设定的质量和成本、延迟阈值都至关重要，”Vanee说。

随着公司将这些能力扩展到新的用例，其企业平台方法有助于确保技术突破转化为数百万客户更安全、更快和更个性化的体验。”

关注微信号：智享开源 ，及时了解更新信息。

0 0