医疗领域的AI
AI正在阅读你的医学影像、拒绝你的保险索赔并指导医生的决策。当它出错时——而且它确实会出错——没有人能确定究竟该由谁来承担责任。
分析 · 2026年4月7日
要点速览
- 美国FDA已批准超过1,200种AI医疗设备。仅2024-2025年就有60多种被召回。
- 2022年至2024年间，与AI相关的医疗过失索赔上升了14%。大多数涉及癌症漏诊。
- 有三个可能的被告：医生、医院和AI开发者。各方互相指责。
- "自动化偏见"——医生盲目信任AI输出——是大多数案例中的隐形元凶。
- 一个新动向：法院可能很快会裁定，不使用AI也构成过失。护理标准正在双向转变。
想象你去做一次常规胸部扫描。AI工具分析图像后标记一切正常。你的医生信任该软件，让你回家。一年后，你再次就诊——而你肺部的肿块已经扩散。
谁辜负了你？是漏诊的算法？是没有二次检查的医生？是部署未经充分测试工具的医院？还是构建该工具的公司？
这并非假设。这是不断增长的AI医疗过失索赔案例的核心模式——而法律尚未给出明确答案。
1,200+ 截至2025年8月，FDA已批准1,200多种AI医疗设备——几乎是两年前数量的两倍
60+ 2024-2025年短短一年多时间里，60多种AI医疗设备被召回
14% 自2022年以来，涉及AI工具的医疗过失索赔增加了14%，主要集中在放射学和肿瘤学领域
AI已经在做医疗决策——包括你的
AI在医疗保健中的整合不是即将来临，而是已经到来。仅放射学AI就占FDA批准的AI医疗设备的78%。 算法正在乳腺X光片中标记肿瘤，在ICU中预测败血症，在肿瘤学中指导治疗计划，并决定你的保险索赔是否获批。
这其中有些确实是好消息。例如，一项2025年的研究表明，AI辅助的ECG分析将心脏导管实验室错误激活率从41.8%降至7.9%。当AI有效时，效果确实显著。
但当它失效时，后果尤为严重——因为医学关乎生死，而且这些工具的采用速度超过了用于捕捉其错误的系统的发展速度。
真实案例
一款基于AI的心脏监测工具未经临床试验就获得FDA批准。它被广泛部署，产生大量误报——引发不必要的急诊就诊和患者严重困扰。该工具后来被召回，但没有人被追究责任。
隐藏在明处的元凶：自动化偏见
医疗AI研究人员反复强调的一点是：技术并不总是问题所在。问题在于过度信任。
"自动化偏见"是人类过度信任自动化输出的有据可查的倾向——不进行独立判断就接受机器所说的。在医学中，这表现为放射科医生在未仔细审查基础扫描的情况下签署AI报告。或者医生遵循算法的治疗建议，而不考虑是否适合这位特定患者。
"由于自动化偏见而盲目接受错误建议可能导致严重后果——责任不会跟随机器，而是跟随选择信任它的人。"
约翰霍普金斯大学的一项研究发现，医生实际上更可能在简单病例中咨询AI，而在复杂病例中避免使用它——这恰恰与AI监督最需要的情况相反。结果是，AI错误往往在最可能导致伤害的案例中未被发现。
法院已经开始关注这一点。对AI决策进行形式化审查而不进行有意义审核的"人类环路"人员，不会因软件做出决定而受到保护。 责任仍然会归咎于他们。
那么，谁实际上会被起诉？
当AI给出错误的医疗建议时，有三个可能的被告进入法庭。
医生
医生仍然是医疗过失责任追究的第一线。如果你遵循了AI输出而未进行检查——而一名合理称职的医生本应发现错误——你就会面临风险。护理标准现在明确包括知道何时信任AI以及何时推翻它。 使用AI并不会降低标准。法律专家认为，它可能会提高标准，因为它要求医生也理解并监控他们所依赖的工具。
医院
医院在两个方面面临责任：部署未经充分测试的AI系统，以及未能对员工进行正确使用培训。如果一家医院推出未经其患者群体验证的诊断工具——而该工具由于训练数据偏见而在非白人患者身上表现更差——选择部署它的实体是医院。
AI开发者
针对AI公司的产品责任索赔正在增加。如果算法本身有缺陷——在非代表性数据上训练、未在真实条件下测试，或宣传无法支持的准确性声明——开发者可能会被严格追究责任，无论医生或医院是否也犯了错误。《美国医学会健康论坛杂志》(JAMA Health Forum)的研究发现，绝大多数被召回的AI设备来自上市公司，在这些公司中，投资者压力常常超过患者安全时间表。
保险角度 医疗过失保险公司已经做出调整——但对医生不利。一些保单现在包含AI特定的免责条款。其他保单要求医生完成AI培训作为承保条件。如果你是一名使用保险公司不知情的AI工具的医生，你可能在无保险的情况下执业。
没人预料到的转折：不使用AI也可能构成过失
这就是这个故事变得真正奇怪的地方——也是我在研究过程中改变想法的地方。
我最初假设医疗中的AI责任是一个关于医生因信任不良工具而被责怪的故事。这确实存在。但法院也开始审视另一个方向：不使用已被证明有效的AI工具本身是否可能构成过失？
医学中的护理标准一直由合理称职的医生会做什么来定义。随着AI工具在特定专业中被证明有效——以及采用成为常态而非例外——"合理"将包括使用这些工具。 一名忽视广泛采用的AI筛查工具并漏诊了该算法本应发现的癌症的放射科医生，可能很快发现自己处于医疗过失诉讼的不利一方。
法律学者直言不讳地说："AI很可能会重塑护理标准。这不是一蹴而就的。它将逐渐发生，断断续续——但它正在到来。"
各州实际上在做什么
目前没有联邦法律规范AI医疗责任。 我们拥有的是一系列州级实验：
伊利诺伊州 现在禁止持证专业人员允许AI做出独立治疗决策、直接与治疗中的客户互动，或在没有人工审核的情况下生成治疗计划。AI仅用于行政支持——而非诊断。
得克萨斯州 采取了相反的方向，明确授权AI做出诊断建议——但仅在患者知情和医生强制审核每项建议的前提下。违规行为可能面临高达25万美元的罚款。
加利福尼亚州AB 2013法案 要求披露医疗保健中AI的训练数据和预期用途，将于2026年生效。法律分析师预计它将成为全国模板。
与此同时，FDA已批准了1,200多种AI医疗设备——而其自身强调持续上市后监测的草案指南直到2026年初才开始实施。设备先于监管上市。监督仍在制定中。
"绝大多数被召回的AI设备由上市公司生产，在这些公司中，投资者压力常常超过患者安全。"
我最初的错误认知
我最初的直觉是，AI医疗责任主要是一个技术问题——你需要更好的算法、更多样化的训练数据、更严格的FDA监管。所有这些都真实且必要。
但更深层次的问题不是算法。是AI被插入的工作流程。 放射学AI不会孤立地失败。它之所以失败，是因为医院在商业压力下部署了它，放射科医生当天要审查200份扫描，软件未在面前患者的种族群体上验证，而且没有人停下来询问该工具的准确性声明是否在真实临床条件下经过测试。
法律系统最终会在每个个案中找到责任人。但它无法解决的结构性假设是，强大的诊断工具可以被投入到不堪重负的医疗环境中，并被信任按宣传效果工作。
核心要点
当AI给出错误的医疗建议时，医生、医院和开发者都牵涉其中——而且都有动机互相指责。缺失的不仅是一个更清晰的责任框架。在专门设计以减少对人类监督需求的系统中，缺乏真正的文化监督。在这种情况改变之前，患者将是承担风险的一方。
来源： Brandon J. Broderick医疗过失分析（2025年）、《医学经济学》/David Simon J.D.（2026年4月）、AI护理标准误诊案例追踪器（2025年12月）、Lyon Firm AI医疗设备召回分析（2026年2月）、McCune Wright医疗过失与AI（2025年7月）、PMC AI诊断责任系统综述、密苏里州医学会（2025年5-6月）、Wiley Law州AI立法审查（2025年12月）。
【全文结束】