跳到正文
原文
Medical Xpress·· 2026-10-21精选AI 评分74

AI聊天机器人识别不必要的医疗测试,但遇分歧时表现不一

New study reveals AI chatbots recognize unnecessary medical tests, but stumble where human doctors disagree

AI 导读

一项新研究显示AI聊天机器人能有效识别冗余医疗测试,但在存在医学共识分歧的灰色区域表现不稳定。研究由Ben-Gurion大学和Clalit Health Services联合开展,分析六家公司的大型语言模型在Choosing Wisely临床场景中的推荐准确性,发现AI在必要检查遗漏率仅0.6%,但对甲状腺结节超声等存在争议的检查推荐率高达42.8%。

推荐理由

该研究为AI在临床决策中的应用提供了重要参考,揭示其在识别冗余检查方面的潜力与局限。

正文 · AI 翻译

译文尚不完整,完整内容请切换到原文。

medical test
图片来源:Pixabay/CC0 公共领域

在患者和临床医生越来越多地转向人工智能获取医疗建议的时代,一个关键问题浮出水面:人工智能是否知道何时不应进行检查或治疗?本古尔离子安大学(BGU)和克拉利特医疗服务(Clalit Health Services)的一项新联合研究表明,领先的大语言模型(LLMs)在绝大多数情况下都能成功识别出医疗干预的冗余性,主要在医学共识本身存在分歧的灰色地带出现偏差。

The study was published today in Annals of Internal Medicine.

现代医学中的“以防万一”困境

患者经常要求额外检查以“以防万一”。但在临床实践中,更多的检查并不总是更好的医疗方案。不必要的检查常常会发现偶然且无害的发现,从而引发一系列焦虑、专科转诊以及侵入性活检和手术——而这些在最初根本不是必需的——浪费医疗资源并有风险对患者造成伤害。相反,过度保守的诊断系统有可能在真实危险潜伏时错过关键的干预措施。临床安全的 AI 工具必须在这两种失效模式之间巧妙地进行导航。

该研究由克拉利特医疗服务(特拉维夫区)的家庭医生和研究员、医学人工智能研究员 Dean Ariel 博士,与本古尔离子安大学工业与管理工程系(Department of Industrial Engineering and Management)的 Guy Laban 博士,以及拉宾医学中心-贝利森医院(Rabin Medical Center-Beilinson Hospital)的 Stav Endelman 博士合作开展。

将人工智能与实际临床判断进行比较

研究人员针对 Google、Anthropic 和 OpenAI 开发的六款领先的大语言模型,在数百个临床场景中进行了评估,分析了数千个模型回复。这些场景围绕国际“明智选择”(Choosing Wisely)运动的建议构建——该运动是一项由美国内科学会(ABIM)基金会于 2012 年发起的全球医学倡议,在 30 多个国家开展活动,旨在消除低价值医疗服务。

每项建议将干预措施冗余的病例与干预措施在医学上有必要性的对照病例配对:

  • 一名因搬家具而急性下背痛并不需要进行影像学检查的年轻男子。然而,一名有乳腺癌病史且出现新发夜间背痛的女性则是需要的。
  • 常见的病毒感冒(流鼻涕和咳嗽)不需要使用抗生素。但确诊的细菌性链球菌性咽炎则是需要的。

研究结果:

  • 漏诊率接近零:当干预措施在医学上有指征时,模型错误地建议保留治疗的比例仅为 0.6%。
  • 过度检查率较低:当明确不需要干预时,模型不当建议进行检查或治疗的比例仅为 5.4%。
  • 超过半数建议表现完美:在 15 项“明智选择”建议中,有 8 项 LLM 没有建议任何不必要的手术。

反映人类的不一致

绝大多数人工智能过度检查错误集中在两项众所周知具有模糊性的临床实践中:

  • 低风险患者的常规心电图检查:在 28.3% 的回复中,模型建议了不必要的心电图,主要是在患者提到心悸的情况下,此时心电图可以是检查过程中合理的一部分。
  • 甲状腺超声检查用于偶然发现的结节:对于小型且偶然发现的结节,模型在42.8%的回答中建议了不必要的超声检查——这反映了美国甲状腺协会与美国放射学学院之间就该类结节是否应该进行影像检查而产生的实际分歧。

“行医最难的部分之一在于知道何时应克制,”Clalit健康服务的Ariel解释道。“患者从额外检查中寻求安心,但不必要的MRI往往会捕捉到无症状的椎间盘突出,从而引发不必要的担忧和治疗。语言模型从人类临床文献中学习医学——包括我们缺乏纪律性的习惯。我们想看看它们是否也吸收了行使克制的能力。总体而言,它们知道何时该停下,主要在我们医生自己犹豫的地方出糗。”

说“不”的社会挑战

“人们经常听到AI聊天机器人以单一权威的声音说话,仿佛存在统一的‘AI共识’,”内盖夫本-古里安大学的Lapan指出。“然而在专家辩论的灰色地带,模型之间的差异令人震惊:对于完全相同的临床病例,一个模型提出不必要检查建议的时间不到10%,而另一个模型则在80%的情况下提出。”

“此外,告诉患者‘你不需要这项检查’是一种微妙的社会行为,”Lapan补充道。“人类医生必须面对焦虑的患者坚持立场,而语言模型则倾向于顺从面前的人。下一个关键研究问题是,当焦虑或执着的患者反驳时,AI助手是否会保持正确的临床克制。”

出版物详情

Dean Ariel 等人,《在选择明智场景中大型语言模型建议的过度使用与虚假克制》,《内科年鉴》(2026年)。DOI: 10.7326/annals-26-01667

期刊信息: 内科年鉴

谁幕后策划了这个故事?

Gaby Clark

Gaby Clark

英语文学硕士学位,自2021年起担任文字编辑,拥有高等教育和健康内容方面的经验。致力于可靠科学新闻。 完整档案 →

Andrew Zinin

Andrew Zinin

物理学硕士,具有研究经验。长期关注科学新闻。在 Science X 的编辑成功中发挥关键作用。 完整资料 →

引用: 新研究揭示 AI 聊天机器人能识别不必要的医学检查,但在人类医生意见不一致时却会出错(2026年10月20日) 2026年10月20日检索自 https://medicalxpress.com/news/2026-10-reveals-ai-chatbots-unnecessary-medical.html

本文档受版权保护。除为私人学习或研究目的进行的合理使用外,未经书面许可,不得以任何形式复制本文档的任何部分。本文内容仅供参考。

来源:Medical Xpress · medicalxpress.com