智能检索减半成本,Nimble革新搜索技术

智能检索减半成本,Nimble革新搜索技术

总部位于纽约的科技创业公司Nimble致力于重新定义企业级网络搜索,通过运用多个AI智能体提升搜索的准确性与深度。如今,该公司正朝着”智能体代替人类进行网络搜索”的愿景迈出了重要一步。

Nimble近日推出了Web搜索智能体系统,这是一款专为AI智能体设计的新型检索系统。据公司介绍,该系统能使AI智能体的网络研究准确率提升21%,同时显著减少令牌使用量——相比市面上领先的AI搜索替代方案,可降低51%的令牌消耗。

尽管Nimble未披露其具体的基准测试方法或评估的竞争对手,但这些结果凸显了企业AI领域的一个日益增长的趋势:优化检索能力已变得与改进基础语言模型本身同等重要。

Nimble的领导团队表示,这款产品结合了自学习检索策略、专有网络索引和实时网络访问功能,能够提供针对特定领域的搜索能力,在企业工作负载方面表现优于通用网络搜索服务。

“我们的研究团队构建了自学习检索算法,能够学习客户的特定领域知识,”Nimble首席执行官兼联合创始人Uri Knorovich在接受采访时表示。”这些算法能更高效地找到精确信息,减少所需的多跳推理量,并在提高准确性的同时降低令牌使用。”

从通用AI网络搜索迈向满足企业需求的专门化搜索智能体

当前大多数AI应用依赖通用搜索API和公共知识库,返回广泛的文件集合,然后由语言模型负责确定哪些信息源是相关的。这一过程通常需要多次检索步骤、额外推理以及大量令牌消耗,智能体才能生成答案,这显然效率低下,且增加了AI搜索处理无关信息时的成本。

Nimble认为,不久后,每家企业都需要自己独特的搜索、检索和验证外部信息的方法,因为每家企业都依赖于自己偏好的信息源、信号和信任标准。

因此,与其为所有工作负载应用同一种搜索策略,Nimble的Web搜索智能体旨在学习特定领域的特征,并调整信息检索方式,为智能体提供结构化的相关上下文,而不是迫使它们筛选大量通用搜索结果。

“我们不使用单一的通用检索模型,而是为每个客户的领域构建专门的检索模型,使它们更快、更经济且更准确,”Knorovich解释道。”单一企业可以运行数百个不同的智能体,每个智能体都有自己的领域专业知识、护栏、目标和搜索算法。优化从第二次搜索开始,无需客户进行任何设置。”

该系统的目标不仅是减少冗余检索,还缩短多步研究路径,避免反复将原始页面发送给语言模型进行解析,从而实现公司引用的51%的令牌减少量。

这一区别对于长时间运行的企业智能体尤为重要——这些智能体可能需要数小时甚至数天进行研究,而不是回答简单的消费者问题。在这些场景中,减少不必要的工具调用可以显著降低运营成本,同时提高答案的一致性。

这一重点反映了AI工具生态系统正在发生的更广泛转变。随着基础模型能力的不断增强,基础设施供应商正在围绕模型展开竞争,包括检索、编排、内存、可观察性和治理等方面。

面向生产AI的检索优化

此次发布建立在Nimble更广泛的战略基础上——即成为企业网络智能平台,而不仅仅是网络爬取服务提供商。今年早些时候,在完成4700万美元B轮融资后,该公司推出了其更广泛的智能搜索平台,将自己定位为将实时网络转化为AI系统可用的结构化、机器可读数据的基础设施。

公司最新发布通过其称为”工具即服务”的概念扩展了这一愿景,该概念为其新的领域专用Web搜索智能体提供支持。Nimble将搜索API、浏览器自动化、提取管道、验证逻辑、内存系统和编排代码等能力打包在管理界面后面,而不是要求工程团队组装这些独立组件。

该工具能够确定搜索内容,当传统索引不足时导航页面,提取相关信息,验证结果,并以适合下游智能体的形式返回最终上下文。

Nimble还表示,该系统保留领域特定记忆,并构建随客户搜索次数增加而改进的专有索引。

“最大的研究突破是向智能体添加了语义记忆和缓存层,”Knorovich表示。”智能体随时间推移学习使用模式和领域专业知识,因此每次后续搜索都变得更快更高效。”

至于Nimble能够处理哪些领域,公司表示可以解决几乎任何知识工作领域的问题。

“我们见过客户构建投资银行分析师、产品经理的竞争情报智能体、上市研究智能体、新闻监控、保险应用、生命科学研究以及供应链优化等,”Knorovich说。”我们的客户每天都在用新的智能体用例给我们带来惊喜。”

然而,对于关注数据隐私和保留的企业客户,Knorovich保证:”Nimble在设计上就是零数据保留。客户查询绝不会存储在我们的环境中,当客户部署语义记忆和自学习模型时,这些知识保留在他们自己的租户环境中——而不是我们的环境中。”

客户部署展现运营效益

在发布该产品的同时,Nimble提供了来自AI原生软件供应商和企业用户的早期客户案例。

AI原生CRM公司Rox在采用Nimble的检索基础设施后,报告称令牌成本降低了20倍,同时提高了信息质量和完整性。


关注微信号:智享开源 ,及时了解更新信息。

原文链接:https://venturebeat.com/orchestration/nimble-claims-its-new-domain-specialized-web-search-agents-cut-token-costs-in-half-while-boosting-retrieval-accuracy

评论列表
发表评论
😀 😂 😃 😄 😅 😆 😉 😊 😋 😎 😍 😘 🥰 😜 😝 🤗 🤔 😭 😤 👍

为你推荐
Ta的个人站点

Mark Do发布文章2240篇

如我距离死亡还有45年,我还活着,该怎么度过现在。


公众号:智享开源

分类