记忆革命:智能体的新篇章

数据库技术的发展已有约60年历史,而当今人们所谈论的那种形式的AI智能体,其发展历程仅约18个月。
不妨花些时间思考这个比例,它几乎解释了当前智能体发展状况的全部。六十年的技术积累与仅仅一年半的发展历程,形成了鲜明对比。我们并非处在这条学习曲线的中段,而是站在其最底端,仰望着前方的道路。
目前,智能体领域还没有类似LAMP架构的标准化解决方案。缺乏一套既成熟又无需过多思考的默认技术选择,这使得团队不得不反复争论架构问题,而无法专注于产品交付。
行业早期的一个教训源于对token最大化的短暂迷恋。在2026年初的一段时间内,token消耗量成为一种虚荣指标。然而,反对之声迅速涌现。事实证明,token数量只能衡量活动量,而非实际成果。
然而,token最大化故事中真正有趣的部分,从来不是那些职场表演,而是隐藏其背后的架构启示。
上下文窗口是稀缺资源
以下内容是基于2026年上半年我在六个国家15座城市与超过100位客户交流的综合心得。我观察到,各类组织正逐渐达成同一共识:上下文窗口是真正的稀缺资源。挑战不在于向每个提示中塞入更多信息,而在于首先确定哪些信息真正应该被纳入其中。
这个问题已经有了答案,那就是记忆。
这里所说的记忆,并非人们通常所指的”上下文窗口”那种松散概念,而是一个真实、持久、可查询的记忆系统,它独立于模型存在,并有目的地向模型提供信息。
记忆不仅是短期和长期,更是超越时间维度的存在
优质的智能体记忆系统能完成上下文窗口无法实现的三大功能:
-
保存生成式模型在前次循环和会话中产生的结果,使您已经支付高额推理成本的内容不会在会话结束时消失。
-
为保存的内容应用基于角色的访问控制,使一个团队创建的记忆能够在整个企业范围内共享,而不会泄露不应公开的信息。
-
允许新查询检索正确的先前内容,在实践中这意味着它基于语义搜索而非精确匹配,因为智能体通过意义而非键值来请求信息。
最后一点让我们重新回到关于数据库六十年的观察。我们用了六十年时间,在通过精确标准存储和检索结构化数据方面达到了极高的水平。而智能体记忆需要的是一种不同且更新的能力:能够存储生成过程的非结构化输出,并通过相似性再次找到它。
能够成功构建此类系统的团队,是那些数据平台能够原生执行语义搜索、应用访问控制,并在同一位置保存生成内容的团队,而不是将三个系统简单拼接并期望它们能协同工作的团队。
企业中涌现的新模式
一旦拥有了这样的记忆系统,一种真正有趣的架构自然浮现,我观察到更多企业正朝着这一方向汇聚。
您可以将强大的记忆系统与一个更轻量级的模型配对,这种模型通常是开源的,其任务不是表现卓越,而是做出良好判断。当有新的查询进入时,智能体会在记忆中进行语义搜索,重新排序以获取最佳候选答案,然后向轻量级模型提出一个问题:这个答案是否足够好,可以直接返回?
如果答案足够好,直接返回它。您完全不必为昂贵的生成模型付费,而是从记忆中找到了答案。
如果答案不够好,再升级到更昂贵的生成模型,获取一个原创解决方案,返回该方案,并将其保存回同一记忆系统,这样下次遇到类似查询时也不必再次付费。
思考这对智能体经济学的长期影响。昂贵模型产生的每个原创答案,在下次有人需要类似内容时都会变成廉价答案。系统使用得越多,成本越低、速度越快,这与简单token最大化的扩展方式形成鲜明对比——后者的成本会随使用量线性增长。这体现了两种智能体的本质差异:一种是学习已知知识的智能体,另一种是在每次循环中重新推导整个世界的智能体。
记忆有不同类型,人类精心筛选最佳内容
最后一点,也是我认为区分了我们当前状态与未来发展方向的关键在于:成熟的智能体记忆不会是短期和长期记忆的简单集合,它会像人类记忆一样拥有不同类型。
分类记忆保存术语,即组织运行的受控词汇和定义,确保智能体使用的”chargeback”一词与贵公司财务团队赋予的含义一致,而非互联网上普遍理解的含义。
程序记忆保存任务列表和序列,即”我们在这里这样做”的知识,它将一个有能力模型转变为有用的同事。记忆类型将不止这些,而确定正确的记忆类型分类体系,正是我们正在攀登的学习曲线的一部分。
对于任何运行过实际生产系统的人来说,这一点应该很熟悉:最佳记忆往往是由人类放入系统的。智能体生成的每一条记忆并非都值得保存,而保存的每条记忆也并非都值得首先展示。
我期望看到越来越多的人对这些系统进行精心管理,将高价值记忆重新注入系统以便频繁重用,修剪冗余信息,推广那些真正有效的程序序列而非那些勉强有效的序列。我们曾为知识库做过这件事,为文档做过这件事,现在我们将为智能体记忆做这件事,因为精心管理能使知识库从垃圾堆转变为资产。
未来发展方向
智能体的发展历程约18个月,而数据库已有60年历史。这两个数字之间的差距不是让我们感到羞愧的问题,它只是反映了我们仍处于多么早期的阶段,也让我们对那些仅存在数月的所谓”最佳实践”保持谦逊态度。
token最大化是这一新兴领域中首个兴起又衰落的大理念,它的消亡教会了我们领域最需要的教训:上下文窗口是稀缺的,因此关键在于选择放入其中的内容。这种选择机制就是智能体记忆——一种基于语义搜索、访问控制、分类化、人工精心筛选的记忆,它保存了昂贵生产的成果,并以低廉成本永久提供服务。
智能体领域仍然没有LAMP架构。但如果我必须赌哪一层会首先成为无聊、默认且成熟的选择,让我们停止争论而专注于构建,我会赌记忆。这就是智能体发展的下一阶段进步。其他一切仍停留在手工编写CGI-BIN的初级阶段。
皮特·约翰逊(Pete Johnson)是MongoDB公司AI领域首席技术官。
关注微信号:智享开源 ,及时了解更新信息。
原文链接:https://venturebeat.com/data/token-maxxing-is-dead-agentic-memory-is-what-comes-next


公众号:智享开源
还没有任何评论,你来说两句吧!