加州奥克兰凯撒医疗集团(Kaiser Permanente)的心理治疗师保罗·博耶(Paul Boyer)正在亲身体验这场AI革命，但他对目前的进展略感失望。
这家医疗巨头推出了一套由医疗AI先驱公司Abridge开发的新记笔记软件，旨在以超快速度总结患者的就诊情况。对许多临床医生而言，这项技术缓解了他们生活中持续存在的一个痛点——行政管理和文书工作。
但AI记录员给博耶和他的同事们带来了另一个头痛问题：它"并不太有用"。他们最终不得不修正计算机生成的记录。
博耶表示，Abridge"不善于捕捉临床细微差别，也不擅长捕捉情感语调"，而这些在心理健康领域可能至关重要。例如，对于躁狂症患者，说了什么不如怎么说更重要，而该软件在捕捉这些线索方面存在困难。
记笔记软件不是未来的浪潮；它已是当下的现实。全美医院都在实施这类软件。研究人员也发现了一些好处。根据四月发表在《美国医学会杂志》上的一项对五家医院的研究，在安装一年后，最常使用这些产品的医生每天节省了半小时以上的工作时间。
许多医生对已部署的产品表示喜爱——几项基于访谈的研究发现，医生对这些记录员的总体反应是积极的。
然而，正如博耶的例子所示，人们对这些系统的质量仍存在持续的质疑。当博耶和他的同事花时间修正记录时，安全研究人员担心临床医生可能不会勤勉地发现错误。这可能意味着未来的医生将依赖错误信息。
Abridge表示，他们在部署的每个阶段都评估其记录员，包括与软件先前版本进行的头对头测试。
该公司应用科学总监戴维斯·梁(Davis Liang)在一份声明中告诉KFF Health News："在模型部署后，我们监测临床医生的编辑、星级评分以及临床用户关于记录质量的自由文本反馈。"
人工智能记录软件是涌入医疗保健领域的AI工具大军中的一部分。临床医生和患者安全倡导者表示，政府法规并未很好地构建起来，以防范新技术可能遗漏或掩盖患者病情重要细节的威胁，这可能对患者造成伤害。
"目前联邦层面没有保障措施来审查记录软件，"马里兰州哥伦比亚市大型医院系统MedStar Health专门研究人机交互的研究员拉杰·拉特瓦尼(Raj Ratwani)表示。
拉特瓦尼担心，对健康软件的保障措施将进一步放松。他表示，国家卫生信息技术协调员办公室——监管电子健康记录(患者护理的中心纪事)的机构——提出的规则可能会削弱对医疗记录可理解性、易用性以及AI使用透明度的要求。而难以理解的记录可能会使临床医生困惑并导致错误。
从奥巴马政府开始，卫生与公众服务部(HHS)的IT办公室鼓励进行"以用户为中心的设计"测试，即开发人员将产品试用于医生和护士。监管机构还试图要求在蓬勃发展的AI工具市场中，企业提高透明度。
HHS部长罗伯特·F·肯尼迪(Robert F. Kennedy Jr.)的健康IT办公室提出的规则取消了这两项要求。
医生和其他医疗从业者查阅记录以获取临床信息，例如总结患者护理历史的记录笔记以及患者使用过的药物和疗法清单。医生还输入护理指令。
拉特瓦尼表示，记录系统设计不良或混乱"可能使药物清单变得如此复杂和令人困惑，以至于开处方的医生选择了错误的药物"。
Abridge的总法律顾问蒂姆·黄(Tim Hwang)表示，公司"广泛支持"政府的规则，认为这是"必要的现代化"，"适应了AI快速发展的速度"。
为数字健康公司提供咨询的Leavitt Partners公司的负责人瑞安·豪厄尔斯(Ryan Howells)表示，旧规则"给电子健康记录系统带来了过多负担"。Leavitt支持这些提议。
行政当局认为，取消要求将带来更多创新和竞争。电子健康记录市场一直在稳步整合，医院和其他临床医生选择的供应商越来越少。
2022年的一项研究发现，前两大供应商Epic和Oracle Health占医院市场的70%以上。豪厄尔斯认为，过多的规则给寻找良好记录系统的提供者带来了负担。豪厄尔斯表示，联邦法规是"阻碍真正临床创新的最大单一障碍"。
一些批评者表示，特朗普政府取消记录规定的提议过于宽泛。它取消了旨在保护记录安全的法规，也消除了保护敏感医疗数据的隐私保护，彻底改革了数据传输格式的标准等。政府在其提议中写道，该规则可能通过增加竞争"为临床医生提供更多的健康IT选择以满足他们的需求"。
HHS的健康IT办公室拒绝发表评论，指出该提议仍在监管过程中。公众评论已于二月结束。
但对一些人——甚至在医院和开发部门中——最令人担忧的是提议取消确保新产品经过实际用户测试的前提条件，以及确保AI技术的决策对医生和护士透明。
"历史上，医院和医疗系统一直面临某些AI工具的'黑箱'性质以及算法开发方式的挑战，"美国医院协会(AHA)的詹妮弗·霍洛曼(Jennifer Holloman)表示。随着更多AI工具涌入市场，该协会表示，透明度变得更加关键。
即使对于看似简单的任务，对电子健康记录安全的投诉也由来已久。拉特瓦尼喜欢以订购特定病症的药物为例。
"医生试图订购泰诺，而药物清单可能如此混乱，以至于有30种不同剂量和用途的泰诺版本，而实际上可以设计得更简单，使医生更容易选择他们要订购的正确类型泰诺，"他说。
Altera Digital Health(一家EHR开发商)的政策和公共事务副总裁莉·伯切尔(Leigh Burchell)表示，实际用户测试旨在简化医生的记录设计。但行政当局以令人困惑的方式结束了这一要求。
根据伯切尔对规则的解释，规则中提到的"执法自由裁量权"(政府可以选择不执行某些规则的原则)，公司仍需进行测试——这部分工作很费力——但没有义务向联邦政府报告结果。
行政当局也在结束拜登时代创建AI透明度"模型卡"的想法。其概念是，临床医生可以通过简单的鼠标点击探索用于训练建议临床医生的AI工具的数据。但特朗普的监管机构表示，很少有人利用这一问世仅一年的工具。
尽管如此，医院和医生对取消它仍持谨慎态度。AHA在给HHS IT办公室的评论信中写道，该工具"提供了关于预测或生成式AI应用程序如何设计、开发、测试、评估和应如何使用的信息。这些数据对于促进对AI工具的信任和确保患者安全至关重要。"美国内科医师学会也发出了类似的警告，称"缺乏清晰度可能会削弱临床医生的信任，增加责任费用，并损害医患关系。"
即使是开发者也不完全确定这一想法。伯切尔表示，她所在的电子健康记录贸易组织对这一问题"有很多不同的观点"。"通常，我们在回应上往往更一致。"
不过，伯切尔的组织认为，公司应该对AI做决策所依赖的数据以及它如何提出建议保持透明。
AI工具有效性的证据稀少或相互矛盾。
最近一项比较11种AI记录员在退伍军人健康管理局试点中潜在使用情况的研究发现，该软件在五个模拟场景中的表现不如人类。"尽管环境AI记录员可以生成完整的记录，但整体质量仍普遍低于人类撰写的文档，"作者指出，信息遗漏尤其令人担忧，因为这可能影响后续护理。
退伍军人事务部研究中的供应商未被识别，作者称之为"合同原因"。
而这只是一种AI工具。更多的工具即将到来，每种都需要自己的评估，更不用说已经安装的工具了。
博耶表示，目前他基本上可以忽略他的AI记录员。但他担心管理层会根据预期的时间节省来设计他的工作，并安排更多患者——这意味着他需要花更多时间既与患者相处，又修正软件的错误。
KP发言人文森特·斯陶普(Vincent Staupe)表示，该公司不要求其临床医生使用AI。
"当我修正那份记录时，我觉得这工作太多了，"博耶说。"这肯定会变得更糟，而且这占用了我本不该花在修正AI工具上的时间。"
KFF Health News是一个制作深入健康问题报道的全国性新闻编辑室，是KFF(独立的健康政策研究、民意调查和新闻来源)的核心运营项目之一。
【全文结束】
