凯撒医疗集团位于加利福尼亚州奥克兰的心理治疗师保罗·博耶正亲身经历AI革命。他对此略感失望。
这家医疗巨头推出了一套由医疗AI先驱Abridge公司开发的记事软件新套件，旨在以超快速度总结患者就诊情况。对许多临床医生来说，这项技术缓解了他们生活中长期存在的一个头痛问题——行政工作和文书工作。
但对博耶及其同事而言，AI记录员造成了另一个头痛问题：它"并不太好用"。他们最终不得不纠正计算机生成的记录。
博耶表示，Abridge"不善于捕捉临床细微差别和情感语调"，而这些在心理健康领域可能至关重要。例如，对于躁狂症患者，说话的方式比内容更重要，而软件在捕捉这些线索方面表现不佳。
记事软件不是未来的浪潮；而是当下的现实。全美医院都在实施这类软件。研究人员也发现了一些益处。根据4月发表在《美国医学会杂志》上的一项对五家医院的研究，安装一年后，最常使用这些产品的医生每天可节省半小时以上的工作时间。
许多医生喜欢已部署的产品——几项基于访谈的研究发现，医生们对这类记录员总体持积极态度。
然而，正如博耶的例子所示，这些系统的质量仍存在持续质疑。当博耶和他的同事们花费时间纠正记录时，安全研究人员担心临床医生可能不会认真检查错误。这意味着未来的医生可能会依赖错误信息。
Abridge表示，它在部署的每个阶段都对其记录员进行评估，包括与软件先前版本进行的头对头测试。
该公司应用科学总监戴维斯·梁在给KFF健康新闻的一份声明中表示："模型部署后，我们监测临床医生的编辑、星级评分以及临床医生用户关于记录质量的自由文本反馈。"
人工智能记录软件是即将进入医疗保健领域的一系列AI工具的一部分。临床医生和患者安全倡导者表示，政府法规并未很好地构建来防范新技术遗漏或掩盖患者病情重要细节的威胁，这可能对患者造成伤害。
马里兰州哥伦比亚市大型医院系统MedStar Health专门研究人机交互因素的研究员拉吉·拉特瓦尼表示："目前联邦层面没有任何保障措施"来审核记录软件。他表示，医疗软件的安全保障将进一步放松。负责监管电子健康记录（患者护理的核心记录）的国家卫生信息技术协调员办公室提出的规则可能会削弱要求，使医疗记录难以理解、不易使用，并且对AI的使用缺乏透明度。而难以理解的记录可能会使临床医生困惑并导致错误。
从奥巴马政府开始，卫生与公众服务部的IT办公室鼓励"以用户为中心的设计"测试，即开发人员在医生和护士身上试用他们的产品。监管机构还试图要求在蓬勃发展的AI工具市场中，公司提供更多的透明度。
卫生与公众服务部部长小罗伯特·F·肯尼迪的健康IT办公室提出的规则中取消了这两项要求。
医生和其他医疗从业者查阅记录以获取临床信息，例如总结患者护理历史的记录员笔记，以及患者使用过的药物和疗法清单。医生还输入护理指令。
拉特瓦尼表示，记录系统设计不良或杂乱"可能使药物清单变得如此复杂和混乱，以至于开药的提供者选择了错误的药物"。
Abridge的总法律顾问蒂姆·黄表示，公司"广泛支持"政府的规则，认为这是"必要的现代化"，"适应了AI快速发展的速度"。
为数字健康公司提供咨询的Leavitt Partners的负责人瑞安·豪厄尔斯表示，旧规则"给电子健康记录系统带来了太多负担"。Leavitt支持这些建议。
政府认为，取消要求将带来更多的创新和竞争。电子健康记录市场已稳步整合，医院和其他临床医生的选择供应商越来越少。
2022年的一项研究发现，前两大供应商Epic和Oracle Health占据了医院市场70%以上的份额。豪厄尔斯认为，过多的规则给寻找良好记录系统的提供商带来了负担。他表示，联邦法规是"阻碍真正临床创新的最大单一障碍"。
一些批评者表示，特朗普政府提议取消监管记录的要求过于宽泛。它移除了旨在保护记录安全的法规。它还消除了对敏感医疗数据的隐私保护，改革了数据发送格式的标准等。政府在提案中写道，该规则可能通过增加竞争，为临床医生提供"更多满足其需求的健康IT选择"。
卫生与公众服务部的健康IT办公室拒绝置评，指出该提案仍在监管过程中。公众评论已于2月结束。
但对某些人——甚至在医院和开发人员领域——最令人担忧的是，提议取消确保新产品在实际用户上测试的前提条件，以及确保AI技术决策对医生和护士透明的要求。
美国医院协会的詹妮弗·霍洛曼表示："历史上，医院和医疗系统一直受到某些AI工具'黑箱'性质及其算法开发方式的挑战。"随着更多AI工具涌入市场，该协会表示，透明度更为关键。
关于电子健康记录安全的投诉由来已久，即使是看似简单的任务。拉特瓦尼喜欢以针对特定病情开药为例。
他表示："医生试图订购泰诺，而药物清单可能如此混乱，以至于有30种不同剂量和用途的泰诺，而实际上可以设计得更简单，让医生更容易选择他们要订购的正确类型泰诺。"
现实世界用户测试旨在为医生简化记录设计。但Altera Digital Health（一家EHR开发商）负责政策和公共事务的副总裁莉·伯切尔表示，政府以令人困惑的方式终止了这一要求。
伯切尔对规则的解释是，规则提到了"执法自由裁量权"，即政府可以选择不执行某些规则的原则，公司仍需进行测试——这是需要工作的部分——但不必向联邦政府报告结果。
政府还终止了拜登时代创建AI透明度"模型卡"的想法。其理念是，临床医生可以通过简单的鼠标点击探索用于训练为其提供建议的AI工具的数据。但特朗普的监管机构表示，很少有人使用这一推出一年的工具。
尽管如此，医院和医生对移除它持谨慎态度。美国医院协会在给卫生与公众服务部IT办公室的评论信中写道，该工具"提供有关预测性或生成性AI应用程序如何设计、开发、测试、评估和应如何使用的信息。这些数据对于建立对AI工具的信任和确保患者安全至关重要。"美国内科医师学会也发出了类似的警告，称"缺乏清晰度可能会削弱临床医生的信任，增加责任成本，并破坏医患关系。"
即使是开发者也不完全确定这个想法。伯切尔表示，她所在的电子健康记录贸易组织对这个问题"有很多不同的观点"。"通常，我们在回应方面会更加一致。"
尽管如此，伯切尔的组织认为，公司应该对AI依赖的数据以及如何提出建议保持透明。
AI工具有效性的证据稀少或相互矛盾。
最近一项比较11种AI记录员在退伍军人健康管理局试点中潜在用途的研究发现，该软件在五个模拟场景中表现不如人类。作者指出："尽管环境AI记录员可以生成完整的记录，但整体质量仍普遍低于人工撰写的文档"，信息遗漏尤其令人担忧，因为这可能影响后续护理。
由于作者称为"合同原因"，退伍军人管理局研究中的供应商未被披露。
而这只是一种类型的AI工具。一波又一波的工具即将到来，每种都需要自己的评估，更不用说已经安装的工具了。
博耶表示，目前他基本上可以忽略他的AI记录员。但他担心管理层会根据预期的时间节省来设计他的工作，并安排更多患者——这意味着他需要花更多时间与患者相处并纠正软件错误。
凯撒医疗集团发言人文森特·斯托普表示，公司不要求其临床医生使用AI。
博耶说："当我纠正那份记录时，我觉得这太费事了。这肯定会更糟，而且占用了我不应该花在纠正AI工具上的时间。"
【全文结束】