萨里·阿尔特施勒（Sari Altschuler）是东北大学的一位英语教授，同时也是该校健康、人文和社会项目（Health, Humanities and Society Program）的创始主任。她认为，使用AI医疗记录员撰写临床笔记可以提高医疗质量，但前提是临床医生需要发展叙事和编辑技能。
随着越来越多的临床医生采用AI医疗记录员来记录笔记，阿尔特施勒敦促医疗保健提供者考虑额外的培训。据她介绍，目前已有超过90家公司正在推销自己的AI医疗记录软件，这些应用程序承诺帮助医护人员从繁琐的笔记工作中解脱出来，从而有更多时间关注患者的需求。
“我们所有人都会去看医生，”阿尔特施勒说，“在医生进行测试和诊断之前，他们可能会使用AI来帮助撰写临床笔记。如果你还没有在医生办公室看到有人用手机为你记录笔记，我认为这很快就会到来。”
临床笔记在高质量护理中发挥着基础作用。然而，阿尔特施勒和她的合著者在《柳叶刀》（The Lancet）杂志上发表的一篇文章中指出，现在必须考虑临床笔记的作用以及如何负责任地使用AI医疗记录员，以实现最佳的患者结果。“人文科学培养的技能——不仅仅是叙事和编辑技能，还包括历史、伦理和观察——对于应对AI带来的工作性质的巨大变化至关重要。”阿尔特施勒说。
研究表明，使用这些应用程序已经导致了遗漏、AI生成的不准确性、种族主义用词以及隐含信息和非语言交流的丧失。鉴于这些风险，临床医生需要接受足够的培训，以适应新技术。
为什么笔记在医疗实践中如此重要？
阿尔特施勒表示，讲故事在医学中扮演着重要角色。“患者向医生讲述他们的故事，医生向患者讲述故事，也向其他医生讲述患者的病情。”她说，“笔记是护理过程中的一个重要环节，它们是深刻的叙事对象。”
记笔记是临床医生培训的一部分。在写笔记的过程中，医生会处理患者提供的信息，并思考可能的诊断。“我希望医生花更少的时间在临床文档上不会导致护理质量下降，但这种风险确实存在。”阿尔特施勒说。
笔记还确保了护理的连续性，促进了医生之间的沟通，提供了法律保护，并使保险公司能够报销护理费用。由于患者权益运动，患者现在可以通过电子患者门户公开访问他们的病历。审查笔记可以让患者感到被倾听和关心，反之，如果他们对自己的病情记录不满意，也会感到被忽视和不关心。
“这真的会影响你对诊所发生的事情的看法，以及你对与医生关系的看法。”她说，“一份认真而出色的笔记会让你对护理充满信心。但如果做得不好，它会造成各种以前不存在的问题。”
AI医疗记录员的潜在问题
AI医疗记录员可以生成完整的医生-患者对话转录以及用于医疗记录的摘要。但它们不会从头开始创建叙事，而是使用当前的录音、过去的医疗笔记示例、人类注释者提供的偏好和排名数据、大量的互联网训练数据以及编码在AI模型中的模式来生成笔记。该模型旨在优化事实性而非叙事性。“我们在文章中指出了许多可能发生的问题。”阿尔特施勒说。
她的合著者之一、波士顿科德曼广场健康中心（Codman Square Health Center）的医生伊恩·亨廷顿（Ian Huntington）曾多次遇到AI医疗记录员的错误。该应用程序错误地标注了性别，并生成了带有偏见和种族主义的笔记。“医疗种族主义有着悠久的历史，这些偏见会被编码到医疗技术中，因为这些技术设计的目的是模仿现有的文化。”阿尔特施勒说。
有时，AI会产生幻觉，编造细节或描述诊室中未发生的情况。亨廷顿注意到，AI医疗记录员可能会错过长期医患关系中隐含的信息和非语言交流。此外，还存在所谓的自动化偏差，即人们因为文本看起来表面上完整而更容易接受AI技术生成的文本。
另一个担忧是，资源较少的医疗机构和临床医生最终可能会使用更便宜或免费的、更不完善的记录应用程序，从而加剧已经存在的护理差异。AI在记录和转录重口音人士的讲话方面表现不佳，尤其是移民，这意味着这些笔记的质量会更差，除非医生花额外的时间编辑AI生成的笔记。
另一个层次的担忧是患者的隐私问题。“关于这些数据的隐私性，有很多大问题。”阿尔特施勒说，“实际上发生了什么？”生产AI医疗记录员的公司承诺用户匿名化共享信息。然而，阿尔特施勒说，有办法去匿名化信息，或者通过足够多的线索找出笔记涉及的具体对象。
解决方案
当笔记由AI医疗记录员生成时，临床医生必须仔细考虑其角色从笔记作者转变为笔记编辑者的转变，以最大化患者的护理效果。阿尔特施勒表示，《柳叶刀》文章的要点在于，向笔记自动化过渡应得到编辑和叙事技能培训的支持。
“如果你有多年的实践经验，编辑某样东西是一回事，但还有一个问题是，住院医生和学生是否应该使用AI医疗记录员，或者他们是否应该学习如何写笔记。”阿尔特施勒说。“过早地将AI医疗记录员引入培训过程，会削弱一些真正重要的医疗培训。”
她和她的合著者还建议，医疗保健组织应组建一个由医生、医学教育者、叙事专家、编辑和数据研究学者组成的顾问小组，就何时以及如何使用AI医疗记录员提出建议。
(全文结束)
