智能体无云之境:上下文无处不在

2 小时前 暂无评论 阅读 15 次
收听本文语音

智能体无云之境:上下文无处不在

企业AI竞争新焦点:上下文能力

当前,企业AI领域的竞争优势正转向上下文能力:哪个平台能在智能体决策的瞬间提供合适的记忆、检索与数据,将成为制胜关键。

近日,Couchbase正式推出其AI数据平面平台,该平台将持久化智能体记忆、实时上下文检索以及企业级MCP服务器整合于一体,为智能体提供统一的运行环境。

Couchbase的技术根基源于缓存和高事务数据库架构,公司认为这一背景使其在智能体记忆方面相比从搜索或分析切入的供应商更具优势。AI数据平面可在云环境、本地部署以及断开连接的边缘环境中一致运行,将智能体记忆和本地向量搜索扩展至无网络连接的设备。

“如何确保从这些模型中获得的智能正是数据库所擅长的?如何从仍然将是数据库的存储系统中获取这种价值?”Couchbase首席技术官Gopi Duddi向VentureBeat表示。

AI数据平面核心功能

Couchbase的AI数据平面整合了三大组件,旨在替代当前大多数企业正在运行的碎片化技术栈。

智能体记忆

这是一个统一的持久化层,用于存储对话上下文、结构化操作数据和向量嵌入。Couchbase表示,其防护措施是区别于独立记忆服务的核心特点:包括每个会话的令牌限制、存储记忆的生存时间限制,以及限制每个智能体会话计算消耗的计量控制。

企业级MCP服务器

一个由企业支持的自我管理服务器,用于标准化模型上下文协议集成,作为平台的一部分交付,而非需要单独服务。

智能体目录

Couchbase构建的函数级可发现智能体工具目录。Duddi将其与Databricks Unity或AWS Glue等元数据目录区分开来,形容其更像是高级MCP,将智能体功能作为平台内可调用工具呈现。

内存优先架构:将智能体上下文延伸至无连接边缘

Couchbase的渊源和核心架构基础是Duddi认为其在上下文方面具有优势的关键。

“我们曾是缓存系统,后来才成为数据库,”Duddi表示。

写入内存比写入磁盘快10倍,Duddi表示这一速度优势使其区别于在基于磁盘的存储之上叠加内存工作负载的NoSQL数据库。

并非所有数据技术都源于缓存层。Redis同样扎根于缓存技术,并最近也宣布了智能体AI上下文层。但Duddi认为Couchbase的不同之处在于它保持了ACID(原子性、一致性、隔离性和持久性)合规的数据库,这对事务工作负载至关重要。Couchbase还在多种部署模式方面拥有悠久历史。

通过Couchbase Lite(平台的设备运行时),该架构延伸至边缘环境。它可在无网络连接的情况下本地运行SQL、全文搜索和向量搜索,使用专有同步机制在连接恢复时双向复制回云端或边缘节点之间。目标环境包括零售现场操作、现场服务、工业部署以及智能体数据不能离开设备的监管环境。

Duddi以酒店预订作为早期案例:多个智能体同时服务客户,每个智能体提取本地上下文并在设备上运行向量搜索,共享会话记忆在中央同步。实际好处是令牌效率。平台缓存共享上下文,使得并发会话可以重复使用而不必每次都消耗令牌检索和处理相同数据。

Agora的实践经验

Agora是一个帮助开发者在企业应用中嵌入实时语音、视频和会话AI的平台,自2024年2月起已在生产环境中运行Couchbase。

最初的应用场景是其信令产品,管理实时通话的通道设置和状态同步。扩展到会话AI智能体带来了更严格的要求:内存优先架构、对存储和查询的完整JSON支持、跨数据中心复制以实现高可用性,以及企业级供应商支持。

“基于这些标准,Couchbase是最合适的选择,”Agora产品副总裁Patrick Ferriter告诉VentureBeat。

Agora现正扩展这一合作关系,以支持会话AI智能体的上下文检索。

“这将简化架构并提供企业级RAG,满足会话AI用例所需的可预测低延迟,”Ferriter表示。

对于试图确定最佳上下文方法的数据专业人士而言,没有单一答案。在平台选择上,Ferriter直言不讳。

“这取决于组织的偏好和目标,包括时间因素,”Ferriter说。”如果他们想要企业级、适合立即投产和扩展的解决方案,而不是必须优化和维护具有社区支持的开源解决方案。我们选择前者,这就是为什么我们考虑与Couchbase扩展合作关系。”

竞争格局:跟随正确趋势

上下文层已成为2025年拥挤的领域之一。

Oracle早在3月就在其数据库中加入了内存核心,提供上下文层。Redis在5月也添加了上下文层,向量原生数据库供应商Pinecone同样如此。

“Couchbase是在跟随这一趋势,而非引领,但它遵循的是正确的趋势,”IDC AI、自动化、数据和分析研究总监Devin Pratt告诉VentureBeat。”它的真正优势在于覆盖范围,从云到边缘再到移动设备运行相同平台,这正是企业实际运营的方式。现在的考验是能否在更大规模的竞争中脱颖而出。”

对于在供应商生态中导航的团队,Pratt的表述直接明了:”将工具与工作负载匹配。在有意义的地方整合,在关系推理值得使用的地方采用专业引擎如图数据库,让治理而非将内存视为基础设施来驱动决策。”


关注微信号:智享开源 ,及时了解更新信息。


评论列表
发表评论
😀 😂 😃 😄 😅 😆 😉 😊 😋 😎 😍 😘 🥰 😜 😝 🤗 🤔 😭 😤 👍