智能体毫秒级思维，企业基础设施迎革新
在VB Transform 2026大会上，LinkedIn、Walmart和Zendesk三家公司的技术领袖共同得出结论：阻碍智能体发展的并非模型本身，而是陈旧的基础设施架构。LinkedIn的AI平台与基础设施高级总监Animesh Singh、Walmart的企业技术服务与技术战略高级副总裁Desiree Gosby以及Zendesk的应用AI副总裁Sami Ghoche分别分享了他们从智能体试点到生产环境中实际遇到的问题，并得出了相同的结论：所有瓶颈都不是模型问题。
这些回答的共同点是：大多数企业基础设施是为人类工作方式设计的，而非适应智能体的工作方式。这两种速度差异之间的鸿沟正是真正需要工程创新的领域。
当被问及在Walmart内部扩展智能体时学到了什么时，Gosby直言不讳地表示，目标是确保”工程不会再次成为我们试图实现的目标的瓶颈”。
真正的瓶颈在哪里
每家公司都遇到了同一种障碍的不同变体：为人类工作设计的基础设施在智能体接手工作时无法胜任。
在LinkedIn，第一个瓶颈并非模型，而是Kubernetes。该系统假设容器按需启动，这个过程需要数秒时间。Singh表示这对智能体来说太慢了。解决方案是从按需配置转向预配置容器池，实时交换智能体工作负载。
一旦LinkedIn允许智能体自主编排，出现了第二个更棘手的问题。五点评估系统看似完美，但幻觉问题仍然频发。Singh指出问题在于结构设计上，一个LLM评估另一个LLM的输出时，会与被评估对象共享相同的失败模式。
“我们构建了自己的测试框架和控制流程，将LLMs推向系统边缘而非让它们主导循环，”Singh说道。现在约80%的工作流程是脚本化的确定性代码，LLMs仅用于需要推理的环节，每个步骤的证据在系统继续前行前都会被记录到磁盘上。
Walmart的瓶颈源于成功。直接提供给员工的智能体工具在内部迅速走红，Gosby所称的”公民开发者”们开始构建自己的智能体来解决曾经需要正式工程路线图才能解决的问题。好处是真正的创新涌现，坏处是重复开发，数十个重叠的智能体缺乏协调。解决方案并非限制工具，而是构建治理机制来识别重复、推广最佳版本的智能体，并使其进入生产环境，同时避免工程成为瓶颈。
Zendesk的瓶颈来自数据方面。通过Zendesk收购Forethought加入公司的Ghoche，描述了他们拥有着200亿客户对话的庞大数据集。本能做法是将这段历史提供给具有大上下文窗口的大型语言模型，让其生成业务所需的智能体。但Ghoche表示这行不通：”你真的不能这么做，因此必须真正投资底层数据管道及其配套的数据基础设施，”他说道。
开源的角色
关于开源，三位领导者都达成了相似的共识：尽可能掌控自己的技术与基础设施，仅在前沿实验室仍具明显优势的领域依赖外部力量。
Ghoche表示，他的观点是大多数企业只要有可能都更愿意拥有自己的模型和基础设施，这也是驱动Zendesk方法的核心。例外是在前沿推理领域，那里的实验室仍保持领先，但他表示，相对于企业现在用AI所做的其他工作，这类用例的比例正在缩小。
LinkedIn的解决方案是构建两个独立子系统。第一个是公司所称的AI网关，无论使用哪家提供商，每个模型的外部调用都通过此接口。第二个是内存子系统，设计为独立于任何模型提供商保存上下文。
“无论是对公共云还是我们自有数据中心中的LLM，每一个外发调用都遵循相同的语义和API调用。我们可以快速在不同提供商间切换，”Singh说道。
Walmart构建了自己的内部网关，以保持对三种工作类型的供应商中立：完全确定性工作流、用于开放性任务的规划与推理工作流，以及两者的混合。高合规性工作按设计保持确定性；无论另一端使用哪种模型，治理、安全和评估都通过网关运行。Gosby表示，选择前沿模型还是开源模型取决于哪种对特定工作负载最有效，而非固定政策。
现代化转型建议
三位领导者直接提出了三条建议，每条都与他们已经遇到的障碍相关。
- 优先投资评估系统。Ghoche称这是所有用例的共同点，无论面向内部还是客户。”所有这些的共同点是评估。它会迫使你将问题分解，一旦你拥有了完善的评估体系，就能更快地前进，”他说道。
- 从第一天起掌控你的智能体工具。Gosby的建议是尽早将AI工具直接交到员工手中，并配以监控其产出的基础设施。”这将释放大量创新潜力，”她表示。
- 构建模型和上下文独立性。确保灵活性对成功至关重要。”构建独立性，无论是今天的前沿模型还是明天的开源模型，”Singh说道。”保持上下文在您的企业内部，以便在您明天发布模型或工具时可以重用它们，”他补充道。
关注微信号：智享开源 ，及时了解更新信息。
公众号：智享开源
还没有任何评论，你来说两句吧！