近年来，许多工作过劳的医生开始使用所谓的AI医疗记录员，帮助自动总结患者对话、诊断和护理决策，形成结构化笔记用于健康记录归档。但安大略省审计长最近的一项审计发现，省政府推荐的AI记录员经常生成不正确、不完整和虚构的信息，这些信息"可能导致不充分或有害的治疗计划，可能影响患者健康结果"。
在最近发布的《安大略省政府人工智能使用情况》报告中，审计长审查了20家经省政府批准并预先资格认证、供医疗保健提供者购买的AI记录供应商对两次模拟医患对话的转录测试。这20家供应商在这些简单测试中至少有一项测试表现出准确性或完整性问题，包括9家编造患者信息、12家错误记录信息，以及17家遗漏了所讨论心理健康问题的关键细节。
报告中，审计长指出了这些摘要中可能出现的多个令人担忧的错误示例，这些错误可能对患者后续护理产生直接且负面的影响。其中包括AI记录员虚构不存在的血液检测或治疗转诊、错误转录处方药物名称和/或遗漏模拟对话中讨论的心理健康问题的"关键细节"等情况。
在所有批准的供应商中，经过测试的AI记录员在安大略省供应局评估标准的"生成医疗记录准确性"部分平均得分仅为20分中的12分。但这一看似关键的"准确性"指标仅占供应商总评分的约4%，这意味着即使AI记录员在准确性指标上得分为"零"，也很容易达到批准的最低门槛（衡量"安大略省内本土存在"的单独指标占总评分的30%）。
所有这些因素促成了审计长的总体发现，即这些AI记录员"未得到充分评估"。报告在表现出克制和轻描淡写的情况下指出，"确保AI记录系统的测试能够提供对其生成笔记质量的保证并最大限度减少不准确性是很重要的"。报告还建议使用这些记录员的IT部门强制医生在将笔记提交给患者日志前"确认他们已审阅所生成的笔记"。
安大略省的公共部门医疗服务并不需要在工作中使用这些AI记录系统，如果愿意，他们也可以从非批准的供应商处购买记录系统。然而，安大略省政府推荐了具有如此明显且可能危害患者健康的缺陷的AI摘要系统，这一事实应该让任何使用这些系统的医生（或他们的患者）三思。
【全文结束】
