企业AI智能体瓶颈：模型性能之外，权限才是关键
当前，企业AI智能体的应用正面临发展瓶颈，但症结并非模型性能不足，而是权限管理问题。每个智能体工作流最终都会撞上同一堵墙：该智能体被允许操作哪些资源？以谁的名义操作？系统如何确认这些信息？
Workday给出的解决方案是，将其现有的系统记录作为智能体的治理层。公司产品与技术总裁Gerrit Kazmaier在接受VentureBeat采访时表示，客户在为智能体拼凑解决方案时常常遇到困难。
“Sana能确保审批流程和安全管理模型的完整性始终得到遵守，”Kazmaier说道，“坦白说，这正是我们看到客户在尝试自行构建AI时挣扎的地方——他们仅通过访问原始数据来操作，导致安全管理模型的丰富性丧失，结果范围过于宽泛。”
Workday于3月推出Sana，并扩展与Google的合作，将其Sana智能体系统记录引入Gemini Enterprise，这意味着基于Sana构建的智能体也能在Gemini中被发现。
架构精准性：准确性的核心挑战
Kazmaier指出，他们面临的最大障碍是确保智能体的准确性，尤其是在HR和财务领域。
“‘几乎正确’是不可接受的，”Kazmaier强调，“想象一下正确支付薪资、准时结账或可靠管理工作排班。”
在此类场景中，准确性比大多数AI应用更难评估。政策配置、基于角色的安全机制和组织架构深度关联，微小的错误可能被放大。与多数生成式AI输出不同，HR和财务查询往往缺乏纠错循环——当薪资发放错误或面试安排失误时，损害已造成。
Workday通过将Gemini作为基础推理层，在其之上添加上下文引擎和业务流程逻辑来解决这一问题。同时，公司还引入验证和分类模型，在执行前“质询”输出结果。
有趣的是，准确性与身份问题本质上是同一个问题：系统是否充分了解智能体、授权人以及当前记录状态，从而正确行动？
Workday的优势在于，它能从客户提供的数据中推断其组织结构。已有第三方身份提供商如Okta通过查询Workday验证信息，因此Workday的上下文已成为许多企业的系统记录。Kazmaier介绍，Sana自助服务智能体以Gemini作为对话界面触发工作流，用户通过Workday的身份和安全模型完成身份验证和授权，智能体仅代表该用户在当前权限范围内操作。
审计追踪遵循相同逻辑：Gemini仅保留交互日志，主要审计则留在Workday及其客户内部。
对于HR和财务领域的从业者而言，智能体系统记录中的权限与治理层在受监管领域至关重要。
“它必须存在于系统记录中，这不是偏好，而是唯一可行的方案，”Würk产品总监Dan Obendorfer在邮件中向VentureBeat表示，“如果权限定义在数据实际存储位置之外，就已经失败了。”
Compance.AI首席技术官兼联合创始人Kadan Stadelmann也持同样观点：“没有智能体所有权、性能、成本或行动的归属，就会陷入混乱。”
关注微信号：智享开源 ，及时了解更新信息。
原文链接：https://venturebeat.com/orchestration/the-ai-agent-bottleneck-isnt-model-performance-its-permissions
关注微信
还没有任何评论，你来说两句吧！