加州奥克兰凯撒医疗集团的心理治疗师保罗·博耶正亲身经历人工智能革命，但他的感受却不太兴奋。这家医疗巨头推出了一套由医疗AI先驱Abridge公司开发的新版记录软件，旨在以超快速度总结患者就诊情况。对许多临床医生而言，这项技术缓解了他们长期面临的行政文书工作困扰。
然而，这款AI听写员却给博耶和他的同事们带来了新麻烦：它"并非特别有用"。他们最终不得不修正计算机生成的就诊记录。博耶表示，Abridge"不擅长捕捉临床细微差别，也无法识别对心理健康领域至关重要的情感语调"。例如，对于躁狂症患者，说话方式比内容更为重要，而软件难以捕捉这些线索。
记录软件已不再是未来的浪潮，而是当下的现实。全美医院正在实施这类系统，研究人员也发现了一些益处。据《美国医学会杂志》今年4月发表的一项涵盖五家医院的研究显示，安装一年后，最常使用这些产品的医生每天可节省超过半小时的工作时间。许多医生对已部署的产品表示喜爱——多项基于访谈的研究发现，医生们总体上对AI听写员持积极态度。
尽管如此，正如博耶的例子所示，这些系统的质量仍存在持续疑问。当博耶和他的同事们花费时间修正记录时，安全研究人员则担心临床医生可能不会认真检查错误，这意味着未来的医生可能依赖不准确的信息。Abridge表示，它会在部署的每个阶段评估其听写员，包括与软件先前版本进行头对头测试。"部署模型后，我们会监测临床医生的编辑内容、星级评分以及关于记录质量的自由文本反馈，"该公司应用科学总监戴维斯·梁在给KFF健康新闻的声明中表示。
人工智能听写软件是涌入医疗领域的众多AI工具之一。临床医生和患者安全倡导者表示，现有政府法规未能充分构建防护机制，以防止新技术遗漏或掩盖患者病情的重要细节，从而可能造成伤害。"目前联邦层面没有任何保障措施来审核听写软件，"梅德斯塔医疗系统（总部位于马里兰州哥伦比亚的大型医院系统）专注于人机交互研究的人因工程专家拉吉·拉特瓦尼表示。拉特瓦尼担心，对医疗软件的保障措施将进一步放松。卫生信息技术国家协调办公室（负责监管电子健康记录的机构）提出的规则可能会削弱对医疗记录可理解性、易用性以及AI使用透明度的要求，而晦涩难懂的记录可能使临床医生困惑并导致错误。
从奥巴马政府时期开始，卫生与公众服务部的信息技术办公室就鼓励"以用户为中心设计"测试，让开发者在医生和护士身上试用产品。监管机构还试图要求在蓬勃发展的AI工具市场中提高企业透明度。这两项要求都在小罗伯特·F·肯尼迪卫生部长领导的卫生部信息技术办公室提出的拟议规则中被取消。
医生和其他医疗从业者查阅记录以获取临床信息，例如总结患者护理历史的听写记录，以及患者使用过的药物和疗法列表。医生还通过系统输入治疗指令。"记录系统设计不佳或混乱'可能使药物列表变得如此复杂和令人困惑，以至于开处方的医生选错了药物'，"拉特瓦尼解释道。Abridge的总法律顾问蒂姆·黄表示，公司"广泛支持"政府的规则，认为这是"必要的现代化"，"适应了AI快速发展的速度"。为数字健康公司提供咨询的Leavitt Partners高级合伙人瑞安·豪厄尔斯表示，旧规则"给电子健康记录系统带来了太多负担"。Leavitt支持这些提案。
放宽要求将促进更多创新和竞争，政府方面辩称。电子健康记录市场已稳步整合，医院和其他临床医生的选择供应商越来越少。2022年的一项研究发现，前两大供应商Epic和Oracle Health占据了医院市场70%以上的份额。豪厄尔斯认为，过多的规则阻碍了寻找优质记录系统的医疗机构。他表示，联邦法规"是真正临床创新的最大障碍"。
一些批评者认为，特朗普政府提出的取消记录监管要求的做法过于宽泛。该提案取消了旨在保护记录安全的规定，也消除了保护敏感医疗数据的隐私保护措施，改革了数据传输格式标准等。政府在其提案中写道，该规则"可能通过增加竞争为临床医生提供更多满足其需求的健康IT选择"。卫生部信息技术办公室拒绝置评，称提案仍在监管流程中。公众评论已于2月结束。
但令一些人（甚至包括医院和开发部门）最担忧的是，提案将取消确保新产品经过实际用户测试的前提条件，以及确保AI技术决策对医生和护士透明的要求。"历史上，医院和医疗系统一直受到某些AI工具'黑箱'特性及其算法开发方式的挑战，"美国医院协会的詹妮弗·霍洛曼表示。随着更多AI工具涌入市场，该协会认为透明度更为关键。
对电子健康记录安全性的投诉由来已久，即使是看似简单的任务也不例外。拉特瓦尼喜欢以开具特定疾病药物为例说明问题。"医生试图开泰诺（Tylenol），但药物列表可能如此混乱，以至于有30种不同剂量和用途的泰诺版本，而实际上本可以设计得更简单，让医生更容易选择正确的泰诺类型，"他解释道。
真实用户测试原本旨在简化医生的记录设计，但卫生部信息技术办公室负责人利·伯切尔（Altera数字健康公司政策与公共事务副总裁）表示，政府以令人困惑的方式结束了这一要求。根据伯切尔对涉及"执法自由裁量权"（即政府可选择不执行某些规则的原则）的规则解读，公司仍需进行测试——这需要付出实际工作——但不再被强制向联邦政府报告结果。
政府还在取消拜登政府时期提出的AI透明度"模型卡片"概念。该理念是让临床医生通过简单点击鼠标就能探索用于训练指导临床医生的AI工具的数据。但特朗普政府的监管者表示，很少有人利用这个一年前推出的工具。
尽管如此，医院和医生仍对取消该工具表示担忧。美国医院协会在给卫生部信息技术办公室的评论信中写道，该工具"提供了关于预测性或生成式AI应用如何设计、开发、测试、评估及应如何使用的信息。这些数据对建立对AI工具的信任并确保患者安全至关重要"。美国内科医师学会也发出了类似警告，称"缺乏清晰度可能破坏临床医生信任，增加责任成本，并损害医患关系"。
即使是开发者对该想法也不完全确定。伯切尔表示，她所属的电子健康记录行业协会在这一问题上"存在许多不同观点"，"通常我们在回应方面会更一致一些"。尽管如此，伯切尔的团队认为，公司应透明说明AI做决策所依赖的数据及其提出建议的方式。
AI工具有效性的证据稀少或相互矛盾。最近一项比较11种AI听写员在退伍军人医疗管理局试点中潜在用途的研究发现，该软件在五个模拟场景中的表现均不如人类。"尽管环境AI听写员可以生成完整的记录，但整体质量仍普遍低于人工撰写的文档，"作者指出，信息遗漏尤其令人担忧，因为这可能影响后续治疗。出于作者所说的"合同原因"，退伍军人事务部研究中未指明供应商。
而且这仅仅是一种AI工具。更多工具正蜂拥而至，每种都需要单独评估，更不用说已经安装的工具了。博耶表示，目前他可以基本忽略他的AI听写员。但他担心管理层会根据预期的时间节省来设计他的工作，安排更多患者——这意味着他需要花更多时间与患者相处并修正软件的错误。凯撒医疗集团发言人文森特·斯托普表示，公司不要求临床医生使用AI。
"当我修正那份记录时，我觉得这工作量太大了，"博耶说，"这绝对让情况变得更糟，而且占用了我不该花在修正AI工具上的时间。"
【全文结束】
