患者面AI在初级保健的真实世界安全性与质量研究发表在柳叶刀
First real-world study of safety and quality of patient-facing AI in primary care
Beth Israel Deaconess Medical Center 与 Google 合作开展的前瞻性真实世界可行性研究评估了 Articulate Medical Intelligence Explorer(AMIE)这一患者面对话式 AI 系统的安全性。
原文报告真实世界患者面AI的安全性与可用性初步结果,可为同类技术临床部署提供安全基线参考。
人口老龄化、劳动力结构变化以及患者日益复杂的医疗需求,这些都是对全球初级医疗体系造成压力的因素。人工智能工具已成为扩展医务人员(包括初级医疗场景下的医务人员)能力的一种潜在手段。大型语言模型(LLM),也即聊天机器人,在模拟环境中表现极佳。然而,关于这些系统在真实患者中的表现,目前知之甚少。
贝斯以色列女执事医院(Beth Israel Deaconess Medical Center,BIDMC)的研究人员开展了一项他们认为是首个针对初级医疗中面向患者的对话式 AI 系统的前瞻性真实世界研究,朝着通过与其他医疗干预措施相同的严格临床测试来评估该技术迈出了重要一步。相关发现已发表于 《柳叶刀》(The Lancet)。
BIDMC 卡尔·J·夏皮罗研究与教育研究所的 AI 项目主任 Adam Rodman 医学博士表示:“尽管面向患者的 AI 在实验环境中理论上表现优异,但在真实世界环境中这些对话的安全性究竟如何尚不明确。在我们开始将其评估为工作负荷干预手段之前,必须首先证明 AI 工具在真实的诊疗流程中能够安全、可接受地运行。通过这项研究,我们旨在评估此类技术是否能够同时改善患者和医生的体验。”
在医生实时监督下测试 AI
Rodman 及其同事与谷歌的研究人员合作,评估了名为 Articulate Medical Intelligence Explorer(AMIE)的医疗 AI 聊天机器人。患者在与 BIDMC 医生预约紧急初级医疗门诊后,从家中使用该系统。通过安全文本聊天界面,该系统询问患者的症状,收集病史,提供可能的诊断供患者在与医生复诊时参考,并在就诊前生成摘要供临床医生审阅。
研究于 2025 年 4 月至 11 月期间进行,共纳入 114 名患者,其中 98 名完成了 AI 交互及其初级医疗就诊。每一轮对话均由一名具有资格的内科医生实时监控,如果患者出现受伤风险、显著情绪困扰或要求结束对话,或者医生识别出潜在的安全隐患——例如需要澄清症状、提供急救指示或处理关于严重潜在诊断的担忧——该医生即可介入。
在全部 98 次完成的交互中,没有任何对话需要触发安全停止干预。监督医生识别出一例幻觉,并在五例中提供了额外的临床澄清。
BIDMC 心血管医学临床研究员、共同第一作者 Peter Brodeur 医学博士表示:“这项研究有助于确立此类真实世界对话的基线特征。这些基线特征为所有旨在发现何时适合采用人在回路(human-on-the-loop)工作流程的前瞻性试验奠定了基础。”
患者评分积极,信任问题依旧
患者对这项技术表现出接受度。在大多数指标上,患者和医师评估员均对 AMIE 对话的质量给予了积极评价。此外,患者在与聊天机器人互动后对 AI 的态度有所改善,并在就诊结束后仍保持较高水平。
“其中一个最重要的问题就是,在真实的临床环境中,患者如何与对话式 AI 系统互动,”BIDMC 内科学部住院医 Jacob Koshy 医学博士、公共卫生硕士(共同第一作者)说。“通过前瞻性观察这些互动过程,我们得以更好地理解该技术在日常患者护理中的机遇与局限。”
尽管患者对该系统在倾听、解释信息以及帮助其放松方面的能力给予高分,但在两个领域仍存在担忧:对共享给系统信息的保密性的信任,以及对聊天机器人诚实度和可信度的信任。研究人员表示,这些结果凸显了随着 AI 工具进入临床护理领域,持续努力建立患者信任的重要性。
Rodman 表示:“研究表明,患者对医疗 AI 系统的信任源于其与人类医疗服务提供者的关系。未来的研究需要探索哪些互动特征有助于建立患者信任,以及 AI 互动如何增强医患关系。”
就诊准备益处,健康结局未验证
研究结果还表明,该技术可能在临床工作流程中具有实用价值。
初级保健医生在44个病例中能够在面见患者前审阅 AI 生成的记录或摘要。在75%的病例中,医生表示这样做有助于他们为就诊做准备;在57%的病例中,他们报告这可能影响了其临床处理方式。仅有一例医生报告该互动有一定危害性,理由是担忧患者可能在 AMIE 将淋巴瘤列为可能的诊断之一后感到焦虑。
Rodman 及其同事强调,本研究旨在评估可行性,而非确定 AI 是否能改善健康结局。
“我们的初级保健实践——以及我们的医院——在严格监测所提供临床护理的安全性方面有着悠久历史,这项研究展示了如何在临床实施前评估 AI 安全性的典范,”BIDMC 内科学部初级保健临床主管 Marc L. Cohen 医学博士(共同资深作者)说。“我们认为,未来的患者护理仍将继续有人类临床医生的参与,但我们预见一个由患者、人类临床医生和 AI 组成的三位一体,将有助于为我们的患者提供尽可能优质的循证护理,”Cohen 说。
出版详情
Peter G Brodeur 等,门诊初级保健中的对话式诊断人工智能:一项前瞻性可行性研究,《The Lancet》(2026)。DOI: 10.1016/s0140-6736(26)01535-7
期刊信息: The Lancet
临床类别
谁在报道这个故事?
Lisa Lock
艺术史学士,物质文化硕士。曾任博物馆编辑、急救医生和移植协调员。自2021年起为Science X进行编辑工作。 完整资料 →
Andrew Zinin
物理学硕士,具有研究经验。资深科学新闻爱好者。在Science X的编辑成功中发挥关键作用。 完整资料 →
引文: 关于初级保健中面向患者的AI的安全性和质量的初步真实世界研究 (2026, October 9) 检索于 9 October 2026 from https://medicalxpress.com/news/2026-10-real-world-safety-quality-patient.html
本文档受版权保护。除为私人学习或研究目的进行的合理使用外,未经书面许可,不得复制任何部分。内容仅供参考。
来源:Medical Xpress · medicalxpress.com