加利福尼亚州奥克兰的凯撒医疗集团心理治疗师保罗·博耶亲身经历了AI革命。他对此有些失望。
这家医疗巨头推出了一套由医疗AI先驱Abridge公司开发的新记录软件，旨在以超音速速度总结患者的就诊情况。对许多临床医生来说，这项技术缓解了他们生活中长期存在的一个痛点——行政工作和文书工作。
但AI记录工具给博耶和他的同事们带来了另一个头疼的问题：它"不是特别有用"。他们最终不得不修正计算机生成的记录。
博耶表示，Abridge"不善于捕捉临床细微差别，不善于捕捉情感基调"，而这些在心理健康领域可能至关重要。例如，对于躁狂症患者，说什么不如怎么说重要，而该软件在捕捉这些线索方面存在困难。
记录软件不是未来的浪潮；而是现在的浪潮。全美各地的医院都在实施这一技术。研究人员发现了一些好处。根据《美国医学会杂志》4月发表的一项对五家医院的研究，在安装一年后，最常使用这些产品的医生每天可节省半小时以上的工作时间。
许多医生喜欢他们所在机构部署的这些产品——几项基于访谈的研究发现，人们对这些记录工具的总体反应是积极的。
然而，正如博耶的例子所示，这些系统的质量仍存在持续的问题。当博耶和他的同事们花时间修正记录时，安全研究人员担心临床医生可能不会认真地发现错误。这意味着未来的医生可能会依赖错误的信息。
Abridge表示，它在部署的每个阶段都会评估其记录工具，包括与软件先前版本进行的直接对比测试。
该公司应用科学总监戴维斯·梁在一份声明中告诉KFF健康新闻："在模型部署后，我们会监测临床医生的编辑、星级评分以及临床用户关于记录质量的自由文本反馈。"
人工智能记录软件是即将进入医疗保健领域的一系列AI工具的一部分。临床医生和患者安全倡导者表示，政府法规没有很好地构建起来，无法防范新技术可能会遗漏或掩盖患者状况的重要细节，从而可能对他们造成伤害的威胁。
马里兰州哥伦比亚市大型医院系统MedStar Health的一位专门研究人因工程（即人们如何与技术互动）的研究员拉杰·拉特瓦尼表示："目前在联邦层面没有实施任何保障措施"来审查记录软件。
拉特瓦尼担心，对健康软件的保障措施将进一步放松。他表示，国家卫生信息技术协调员办公室（负责监管电子健康记录的机构，电子健康记录是患者护理的核心记录）提出的规则可能会削弱使医疗记录易于理解、易于使用以及关于AI使用透明度的要求。而难以理解的记录可能会使临床医生感到困惑并导致错误。
从奥巴马政府开始，卫生与公众服务部的IT办公室鼓励进行"以用户为中心的设计"测试，开发人员在医生和护士身上测试他们的产品。监管机构还试图要求在快速增长的AI工具市场中的公司提供更多透明度。
卫生与公众服务部部长小罗伯特·F·肯尼迪的健康IT办公室提出的规则中删除了这两项要求。
医生和其他医疗从业者查阅记录以获取临床信息，例如记录软件总结的患者护理历史和患者使用过的药物和治疗清单。医生还输入护理指令。
拉特瓦尼说，记录系统设计不良或混乱"可能会使药物列表变得如此复杂和混乱，以至于开处方的医生选择了错误的药物"。
Abridge的总法律顾问蒂姆·黄表示，公司"广泛支持"政府的规则，认为这是"必要的现代化"，"适应了AI发展的速度"。
为数字健康公司提供咨询的Leavitt Partners的合伙人瑞安·豪厄尔斯表示，旧规则"给电子健康记录系统带来了太多负担"。Leavitt支持这些建议。
政府认为，取消要求将带来更多的创新和竞争。电子健康记录市场一直在整合，医院和其他临床医生选择的供应商越来越少。
2022年的一项研究发现，前两大供应商Epic和Oracle Health占据了医院市场70%以上的份额。豪厄尔斯认为，过多的规则给寻找良好记录系统的提供商带来了负担。豪厄尔斯表示，联邦法规是"真正临床创新的最大障碍"。
一些批评者表示，特朗普政府提出的取消监管记录要求的建议过于宽泛。它取消了旨在保护记录安全的法规，还消除了对敏感医疗数据的隐私保护，改革了数据发送格式的标准等。政府在其提案中写道，该规则可能会给临床医生"通过增加竞争来满足他们需求的更多健康IT选择"。
HHS的健康IT办公室拒绝置评，指出该提案仍在通过监管流程。公众评论于2月份结束。
但对一些人来说，甚至在医院和开发人员领域，最令人担忧的是取消先决条件的提议，以确保新产品在实际用户上进行测试，并确保AI技术的决策对医生和护士透明。
美国医院协会的詹妮弗·霍洛曼表示："从历史上看，医院和卫生系统一直受到某些AI工具的黑箱性质及其算法开发方式的挑战。"随着更多AI工具涌入市场，该协会表示，透明度更为关键。
关于电子健康记录安全性的投诉由来已久，即使是看似简单的任务也是如此。拉特瓦尼喜欢以特定疾病开药为例。
他说："医生试图订购泰诺，而药物列表可能非常混乱，有30种不同版本的泰诺，剂量和用途各不相同，而实际上可以设计得更简单，使医生更容易选择他们实际要订购的正确类型的泰诺。"
EHR开发者Altera Digital Health的政策和公共事务副总裁莉·伯切尔表示，现实世界用户测试旨在简化医生的记录设计。但政府正以令人困惑的方式终止这一要求。
根据伯切尔对规则的解释，这些规则提到了"执法自由裁量权"，即政府可以选择不执行某些规则的原则，公司仍需进行测试——需要工作的部分——但不强制要求向联邦政府报告结果。
政府还终止了拜登时代创建AI透明度"模型卡片"的想法。其概念是，临床医生可以通过简单的鼠标点击探索用于训练建议临床医生的AI工具的数据。但特朗普的监管机构表示，很少有人利用这个一年前的工具。
尽管如此，医院和医生仍对取消它持谨慎态度。美国医院协会在给HHS IT办公室的评论信中写道，该工具"提供了有关预测性或生成性AI应用程序如何设计、开发、测试、评估以及应如何使用的信息。这些数据对于培养对AI工具的信任和确保患者安全至关重要。"美国内科医师学会也发出了类似的警告，称"缺乏清晰度可能会削弱临床医生的信任，增加责任费用，并侵蚀医患关系。"
即使是开发者也不完全确定这个想法。伯切尔表示，她所在的电子健康记录贸易团体对这个问题有"很多不同的观点"。"通常，我们的回应会更一致一些。"
不过，伯切尔的团体认为，公司应该对AI做决策所依赖的数据以及如何提出建议保持透明。
AI工具有效性的证据稀少或相互矛盾。
最近一项比较11种AI记录工具的研究发现，这些软件在五个模拟场景中的表现均不如人类。作者指出："尽管环境AI记录工具可以生成完整的记录，但总体质量仍远低于人类编写的文档"，尤其是遗漏信息特别令人担忧，因为这可能会影响后续护理。
退伍军人健康管理局研究中的供应商未被确认，作者称之为"合同原因"。
而这只是一种AI工具。一波又一波的AI工具即将到来，每种都需要自己的评估，更不用说已经安装的工具了。
博耶表示，目前他基本上可以忽略他的AI记录工具。但他担心管理层会根据预期的时间节省来设计他的工作并安排更多患者——这意味着他需要花更多时间与患者相处并修正软件的错误。
KP发言人文森特·斯托普表示，该公司不要求其临床医生使用AI。
"当我修正那个记录时，我觉得这工作太多了，"博耶说。"这肯定会变得更糟，而且这占用了我本不应该花在修正AI工具上的时间。"
KFF健康新闻是一个全国性的新闻编辑室，致力于制作关于健康问题的深度报道，是KFF的核心运营项目之一——KFF是一个独立的健康政策研究、民意调查和新闻来源。
本文首次发表于KFF健康新闻，根据知识共享署名-非商业性使用-禁止演绎4.0国际许可在此转载。
【全文结束】
