AI驱动的临床文档本意是简化丹麦医院的工作流程。但根据哥本哈根大学的新研究，现实中医生们却花费宝贵的时间纠正错误、训练算法，并处理原本由医疗秘书负责的行政任务。
随着人工智能成为日常医疗的一部分，它带来了意料之外的额外工作，占用了本应用于核心医疗任务的时间和资源。
这是信息科学研究员西尔娅·瓦瑟（Silja Vase）的博士论文结论，她的研究考察了语音识别技术如何在丹麦一家医院的日常工作中使用。在两年的时间里，她跟踪了医生、医疗秘书和IT人员，观察他们如何使用自动语音识别系统——这些系统本应通过将口述笔记直接转录到患者病历中来节省时间。
然而，实际上，该技术误转录的频率非常高，以至于医生们不得不花费数小时来修正单词、句尾和医学术语。而他们所做的修正随后又成为系统语言模型的训练数据。
“人工智能不是即插即用的。要让这些技术达到所需的精度，就需要持续的维护和数据质量保证——而这项工作最终落在了已经肩负众多其他职责的医疗人员身上。”西尔娅·瓦瑟表示。
关于研究
西尔娅·瓦瑟的博士论文《改变脚本——临床文档走向前台》基于在丹麦一家医院进行的民族志实地研究，结合了观察、跟随采访以及对医生、护士、医疗秘书和IT人员的访谈。该论文由五篇研究文章组成，其中两篇已在学术期刊上发表。
换句话说，医生不仅是在修正自己笔记中的错误。每一次修正都成为语言模型的训练输入，并将数据反馈给系统提供商，以便调整模型。“这项工作大部分落在了临床人员身上——它占用了本应用于患者护理的时间。”瓦瑟解释道。
根据瓦瑟的计算，医生每月因修正而中断工作约602次。平均每位医生每个班次因停止修正转录错误而中断超过40次。
盲目工作
瓦瑟发现的另一个挑战是她所说的“伪数据工作”。医疗人员花费大量时间修正和验证系统的建议以改进算法——但他们无从知晓自己的努力是否有效。
“问题在于他们无法看到自己的修正是否真的起了作用。系统的统计反馈并不对他们开放，因此他们有可能完全在盲目工作。”她说。
在一个极端案例中，由于技术错误，整个科室的修正数据整整一年都没有转发给供应商——而没有人注意到。
医生额外工作增加
文档自动化还带来了一系列意想不到的实际任务落到了医生头上。
“以前，医疗秘书在转录医生笔记时会同时安排X光和其他检查。现在医生自己负责文档工作，这些任务也转移给了他们。”瓦瑟说。
在某些情况下，这导致了奇特的流程：医生打印出病历，用特殊代码标记，然后秘书再根据这些代码安排X光或其他检查。
“这是另一种形式的额外工作，表明人工智能并非简单地自动化孤立任务——它重塑了整个劳动分工。如果系统设计没有考虑到实际工作流程，就不可避免地会产生新的额外工作。”她补充道。
人工智能必须适应医院工作流程，而非相反
瓦瑟认为，在医疗领域引入AI系统时，需要更高的透明度和支持。否则，工作人员很难理解——更不用说参与——这项技术了。
“语音识别不仅仅是一个减轻文档负担的工具。它从根本上改变了员工的工作方式，并创造了非正式的合作关系，医生和其他医疗专业人员承担起新的角色，花更多时间处理远离其核心职责的任务。这也意味着原本承诺的财务节省有时远低于预期。”瓦瑟说，并补充道：
“当语音识别等AI技术部署到医疗领域时，至关重要的是让技术适应现有的工作流程——而不是相反。技术应该服务于员工，而不是强迫员工适应系统的要求，尤其是在没有为这些任务分配额外时间的情况下。这对这些系统的基本设计提出了要求。”
哥本哈根大学
【全文结束】