AI投资回报:Zillow的上下文优先之道

AI投资回报:Zillow的上下文优先之道

客户旅程中的上下文连贯性挑战

作为一家房地产科技企业,Zillow面临独特的客户交互挑战。客户往往需要经历从初步咨询到贷款专员,再到房地产智能体的漫长过程,这个过程可能持续数月甚至数年,而客户期望整个旅程中的上下文能够保持连贯。单一的聊天机器人显然无法承载这种复杂的对话脉络。

在VB Transform 2026大会上,Zillow工程副总裁Toby Roberts与Glean联合创始人兼CEO Arvind Jain分享了他们如何构建能够贯穿整个客户旅程的AI架构,以及为什么他们发现上下文而非原始数据才是更具挑战性的问题。Zillow的产品每年触及美国约80%的房地产交易,公司在ChatGPT问世前就已开始应用人工智能技术。

“我们很快意识到,我们需要一个持久性的上下文层,能够在客户和专业人士的任何接触点与他们相遇,”Roberts表示。

数据并非难点所在

Roberts指出,Zillow的AI工作起步于大多数企业AI项目的起点——数据本身。

“我们从确保数据拥有正确基础的大规模投入开始,”Roberts说。这包括采用数据网格方法,明确数据血缘关系,以及建立与数据本身关联的权限和身份识别的治理结构。

然而,这些都不是真正的难题。真正困难的是构建能够记住客户在旅程中所处位置并将其向前传递的系统,无论客户接下来通过什么渠道接入。

“这个上下文层必须能够在客户旅程的任何时点为他们提供支持,”Roberts强调。Zillow选择自主构建这一层,而非依赖单一的外部聊天接口。Roberts表示,团队在研究了真实交易的结构而非单一对话后,迅速做出了这一决定。

Zillow自建架构的原因及Glean的定位

Zillow选择构建自己的框架,而非将客户导向单一模型API。团队借鉴了Zestimate等产品背后20年的机器学习历史经验,倾向于使用小型、特定任务的微调模型,而非单一通用模型。

在内部,该框架与Glean协同运行。Roberts表示,Zillow现在在生产环境中运行着数千个Glean智能体,处理公司内部数万次重复性任务。根据Jain的介绍,Glean的核心价值在于通过Glean MCP网关一次性完成集成工作,而不是让财务、法律和营销团队各自重建与相同系统的连接。

这种集中化也是一个成本控制手段。Jain指出了两种机制:模型路由,将大多数任务发送到小型、更经济的模型而非前沿模型;以及预计算上下文,避免智能体从零开始组装上下文而消耗代币。

“Claude也非常缓慢,因为组装上下文的初始部分实际上需要很长时间,”Jain表示。他说,通过Glean路由这些请求,可以将代币消耗减少多达一半。

Zillow与Glean模式对企业AI的启示

在数据、成本和权限方面,这次分享为企业自主构建智能体AI系统提供了几个实用建议。

  • 在推动AI前先建立测量基准,而非事后补充。Roberts表示,Zillow能够将代码交付量增长40%可信地归因于AI应用,这建立在团队多年前设定的DORA指标基准之上,而非AI推出本身。
  • 集中构建一次上下文,而非让每个团队重复重建。Jain倡导Glean平台的核心论点是,财务、法律和营销团队间重复的集成工作是企业尚未考虑的隐藏成本。
  • 不要仅依赖权限继承处理敏感数据。即使有了具备权限感知能力的上下文平台,Zillow对其最敏感的数据类别仍然设置了硬性规则和持续合规检查,而非完全依赖架构自动处理。
  • 将上下文视为成本杠杆,而不仅仅是能力。Jain指出降低AI支出的两种机制:模型路由和预计算上下文,两者都旨在减少浪费的代币消耗,而非增加新功能。

“模型本身不足以在企业内部实现AI自动化,”Jain总结道,”你必须将其与企业上下文相结合。”


关注微信号:智享开源,及时了解更新信息。

评论列表
发表评论
😀 😂 😃 😄 😅 😆 😉 😊 😋 😎 😍 😘 🥰 😜 😝 🤗 🤔 😭 😤 👍

为你推荐
Ta的个人站点

Mark Do发布文章2047篇

如我距离死亡还有45年,我还活着,该怎么度过现在。


公众号:智享开源

分类