海迪:全球医疗AI的构建之道

海迪:全球医疗AI的构建之道

医疗领域AI系统的挑战与机遇

构建准确、安全且可靠的AI系统,对于受到医疗、金融和运输等行业合规义务约束的组织而言,是一项重大的工程壮举。在这些行业中,由于监管要求组织必须谨慎且缓慢地推进,技术发展往往落后于其他行业。如今,许多组织正在努力跟上当今对AI的需求,同时也在推进数据基础设施现代化项目。

由澳大利亚创立的AI医疗伴侣平台Heidi,展现了成功的现代化案例。其旗舰产品Heidi Scribe如今自动化了临床医生日常工作中的大部分行政事务,覆盖全球190多个国家,每周支持约270万次患者互动。Heidi联合创始人兼首席技术官刘宇表示,这一扩展建立在公司达到全球规模前做出的基础设施决策之上。

“在大多数行业,AI功能有2%的错误率被视为不便,而在医疗领域,同样的错误率则成为临床安全问题,”刘宇说道。”架构必须围绕一个假设来构建:每一个输出都可能被审查、审计,并在患者护理中被依赖。”

医疗领域部署生产级AI的架构差异

对于Heidi而言,数据驻留是先决条件而非附加功能。悉尼、伦敦、东京或丹佛的临床医生在不同的监管制度下运作,包括澳大利亚隐私原则、GDPR、APPI和HIPAA,患者数据必须存储在区域内。

Heidi在全球运行完全逻辑隔离的生产部署,因此驻留性由架构强制执行。审计能力也必须从一开始就内置,因为组织需要能够在被要求时,回答任何会话中模型看到了什么、产生了什么、临床医生修改了什么,即使是在几个月后。

“变更的影响范围必须通过工程手段缩小,”刘宇说。”在监管较少的行业,您可以快速发布并向前修复,但在医疗领域,我们通过默认使变更安全、对高风险变更类别进行持续集成门控、采用金丝雀发布,并将数据库模式和索引变更也视为需要审查的代码,来大力投资安全性。我们的速度是这种安全性的产物,而不是我们克服安全性的结果。”

选择连接AI工作流程的数据库

Heidi处理从多种来源收集的多样化医疗数据,包括表单、转诊和临床医生的笔记,所有这些都必须整合为一种一致的格式并存储在一个位置,以便与AI工作流程无缝连接。rigid的行列结构不适合这种工作负载。

对于Heidi而言,这些要求使文档数据库成为自然选择。MongoDB为团队提供了灵活性,可以适应快速变化的AI数据,而无需不断重塑底层数据库。

“模型可能只占系统的20%,而数据架构决定了另外80%是否能在真实的临床负载下保持稳定,”刘宇说。

一次AI Scribe会话并非单一数据。它是一组转录文本、结构化笔记、模板、文档、患者上下文、EHR集成状态以及数十个其他相关工件的集合,这些内容每周都在变化。MongoDB允许一个会话的数据以匹配临床医生实际工作方式的形状共存,并允许Heidi在每次产品迭代时无需迁移冻结就能演进这些形状。

“MongoDB Atlas之所以脱颖而出,是因为它结合了文档模型的力量,实现了无缝扩展、灵活性和高性能,同时内置了AI就绪功能,如MongoDB Vector Search,”刘宇说。”这意味着Heidi不需要另一个独立的向量数据库来增强其现有平台。”

凭借全球130多个云区域以及本地和混合选项,MongoDB Atlas是可用范围最广、全球分布最广的数据库平台,其统一查询API让开发者可以构建全文搜索、实时分析和事件驱动体验,而不会使架构复杂化。

“Heidi Scribe通过Atlas中的LangChain将大量医疗文档转换为向量嵌入,实现语义搜索,将转录的医疗术语直接连接到相应的外部知识,”刘宇补充道。”迁移到Atlas将关键API的延迟降低了近33%。”

可信临床RAG系统的要求

“检索首先是一个数据架构问题,然后才是AI问题,”刘宇说。”在消费者RAG中,您从开放网络检索并希望得到结果,而在医疗领域,您检索的是合规范围内的内容。”

Heidi Evidence从授权的临床知识库中检索信息,包括BMJ Best Practice、NICE CKS和MIMS等合作伙伴,并且具有区域感知性,因此英国临床医生获得英国指南,澳大利亚临床医生获得澳大利亚处方集,因为一个国家的正确答案可能是另一个国家的错误答案。

Heidi的嵌入和向量索引存储在MongoDB Vector Search中,与数据的其余部分位于相同的区域隔离部署中,这意味着检索在物理上不可能跨越驻留边界,而且它们不需要运行具有自身安全和合规故事的独立向量数据库。引用是硬性合同而非提示建议,因为模型只能看到已经绑定到源记录的检索块。

区域隔离实现全球合规与扩展

“每个区域都是一个完整、隔离的生产部署,拥有自己的MongoDB Atlas集群、自己的计算资源和自己的密钥,”刘宇说。

“这就是为什么我们能够进入美国的医疗系统、NHS信托或澳大利亚医院集团,并就数据驻留给出明确的答案,因为这是由基础设施强制执行的,而非合同承诺,”他解释道。”用精简团队运行多个隔离区域之所以可行,是因为数据库层是一致且被管理的。我们也是多云架构,这意味着新区域可以在我们已经构建的轨道上启动另一个部署。”

这种架构在美国最为明显,新英格兰最大的医疗系统之一贝斯以色列拉海健康系统在试点后发现74%的临床医生报告减少了下班后的文书工作(”睡衣时间”),随后部署了Heidi的AI抄录系统,而非营利性系统缅因州综合健康系统在其农村医疗工作中选择了Heidi作为战略合作伙伴。

“进入美国市场意味着在我们已经构建的轨道上启动另一个区域,而不是事后为HIPAA重新设计,”刘宇说。

经验总结与未来规划

“重新分区一个大型、热门、持续运行的集合是一项严肃的工程计划,而第一天选择分片键只是一次设计会议,”刘宇说。”我们目前正在与MongoDB合作进行这项工作,但对于任何构建数据密集型AI产品的人来说,为增长最快的数据进行水平扩展是一项基础决策,就像驻留性一样。”

Heidi现在正在扩展到咨询笔记之外,以支持完整的临床工作流程,从就诊前上下文…


关注微信号:智享开源 ,及时了解更新信息。

原文链接:https://venturebeat.com/data/how-heidi-built-production-ready-ai-for-healthcare-at-global-scale

评论列表
发表评论
😀 😂 😃 😄 😅 😆 😉 😊 😋 😎 😍 😘 🥰 😜 😝 🤗 🤔 😭 😤 👍

为你推荐
Ta的个人站点

Mark Do发布文章2605篇

如我距离死亡还有45年,我还活着,该怎么度过现在。


公众号:智享开源

分类