智能体混合计算:数据安全本地化

前沿AI技术实现云端与本地协同计算

知名AI平台Perplexity近日为其智能体平台Computer推出混合计算功能,这一创新系统能够让单个智能体将工作任务在云端前沿模型与本地Apple硅Mac上运行的小型开源模型之间智能分配,确保敏感数据仅在本地处理,不离开用户设备。

据介绍,这是业界首次实现AI智能体在云端启动任务后,能够无缝将同一任务的机密部分动态移交给用户本地硬件运行的模型,无需重启任务或丢失上下文。该功能已面向选择加入的企业客户以及Pro和Max订阅用户开放,适用于运行macOS 15或更高版本的Apple硅Mac设备,通过Perplexity桌面应用提供。

“混合计算极具吸引力,因为通常需要保密的工作往往是最重要的工作,准确性至关重要,”Perplexity macOS和iOS工程团队负责人Jon Staff在媒体简报会上表示,”通过结合这两种计算方式,我们既能从前沿模型获取最大智能,又能享受本地计算带来的安全与隐私保障。”

隐私网关:保护敏感数据的关键技术

该系统的架构类似于一个智能调度中心。云端前沿模型将任务分解为子任务,并将每个子任务路由到适当位置。网络研究、长期规划和复杂推理在云端执行,而任何涉及私人文件、本地数据或设备操作的任务则被委托给在Mac上运行的子智能体。

系统的核心是Perplexity所称的”隐私网关”:一个在设备上运行的、由公司训练的分类器,在数据传输到云端前会扫描个人身份信息——包括姓名、地址、账号号码、机密信息等。当网关标记出敏感内容时,用户可选择该部分任务在本地运行或共享。

“我们的目标是确保发送到云端协调器的所有内容都是安全的,”Staff解释道,”我们构建并训练了自己的PII分类器,直接集成到Mac应用中。”

他详细描述了交接过程:”云端协调器会根据提示分解任务,并确定如何路由到不同的子智能体…它会将该任务委托给您Mac上运行的子智能体,然后这部分任务完全在本地运行,没有任何令牌发送到云端。”

对于通过积分计量云端使用的公司而言,经济因素也很重要。本地生成的令牌无需成本,”您只需支付电费和硬件费用,我们不为此收费,”Staff表示,”积分仅用于协调和委托。”

实际应用场景:专业人士的高效助手

Perplexity的演示围绕那些专业人士绝不会交给纯云端智能体的工作展开。第一个场景中,一位律师在截止日期前,使用智能体在Mac上更新机密案件文件的草稿,同时云端智能体从公开网络获取相关案例法——据称只发送了匿名的法律问题。”在任何时候,其机密信息都不会共享到云端,它从未离开Mac。”

第二个演示中,私募股权分析师的智能体根据机密管理预测重新构建财务模型,对标公开可比数据,并生成投资委员会演示文稿的第五版。该任务在后台运行约40分钟,无需人工干预,若在本地电子表格和云端研究之间手动完成,则需要数小时。

第三个演示强调了跨设备的连续性。一位陶器店创始人在Uber后排用iPhone启动了营销分析。Computer请求访问她工作室的Mac,启动本地子智能体处理她的客户访谈和收入数据,并结合云端对竞争对手公开定价的研究。”无论她离电脑多远都没关系,”Staff表示。

“这类任务在纯本地或纯云端设置中都不可能实现,”他补充道,”您需要本地的安全性和隐私,同时也需要前沿模型的智能。”

本地模型选择与安全考量

此次推出的本地模型选择立即引发了尖锐提问。用户可在三种本地模型中选择:Google的Gemma E4B、阿里巴巴的Qwen3.6 35B-A3B,以及Perplexity对Qwen3.6 35B进行后训练的版本——公司推荐的选择。当被问及企业或政府客户是否对中国开发模型访问其设备表示担忧时,Staff认为本地推理消除了地缘政治风险。

“这些模型的优点是它们是开源的,我们可以自己评估,”他说,”当该模型在您的计算机上本地运行时,数据不会离开您的计算机…您实际上不会将这些令牌发送到托管在另一个国家的云服务提供商。事实上,Perplexity的所有模型都托管在美国。”

他补充说,macOS内置的沙盒框架(称为Seatbelt)限制了智能体在机器上的实际操作:”如果本地执行尝试执行它不应做的操作,它会直接停止并请求用户许可。”Staff表示,目前不允许无限制的”YOLO模式”执行,尽管”我不惊讶未来我们会允许某些人这样做。”

对于企业,管理员可以设置全组织统一敏感度政策,并审计每台设备发出的完整记录——这一功能专门针对法律、金融和医疗行业的合规团队。然而,在消费者方面仍存在疑问。当被问及使用数据如何用于模型训练时,Staff提到了Perplexity的无痕模式和长期存在的退出切换选项,并表示企业合同可包含零数据保留条款。公司发言人称Perplexity”全球范围内未将其用于后训练”,并承诺将就非企业账户的具体细节跟进。”


关注微信号:智享开源 ,及时了解更新信息。

原文链接:https://venturebeat.com/orchestration/your-files-stay-put-perplexitys-hybrid-ai-keeps-confidential-data-off-the-cloud

评论列表
发表评论
😀 😂 😃 😄 😅 😆 😉 😊 😋 😎 😍 😘 🥰 😜 😝 🤗 🤔 😭 😤 👍

为你推荐
Ta的个人站点

Mark Do发布文章2867篇

如我距离死亡还有45年,我还活着,该怎么度过现在。


公众号:智享开源

分类