人工智能在临床环境中的应用日益普遍。如果您在自己的医生就诊中尚未体验过，可能已经在电视上见过。
今年早些时候，在医疗剧《The Pitt》中，AI语音转文本技术成为了焦点。
"研究表明，你可以减少80%的记录时间，"剧中角色Baran Al-Hashimi医生向同事们展示新的AI语音转文本工具时说道。但一位持怀疑态度的同事在该工具误听了患者药物名称后提出了担忧。
虽然这部剧是虚构的，但它提出了一个真实的问题：这些AI工具的风险是否大于收益？
辛辛那提大学副教授内莉·埃尔萨耶德（Nelly Elsayed）不仅想回答这个问题，还希望找到具体解决方案，以推进医疗文档中安全可靠的AI系统。
她发表在《国际医学信息学杂志》上的论文《临床语音转文本系统的社会技术风险：AI驱动文档中的透明度、隐私和可靠性挑战》审视了大量现有研究、道德准则和政府法规，揭示了AI的应用速度已超过其监管速度。
"这些AI工具的质量正在提高，但我们必须关注其他方面，使其更加高效和透明，"埃尔萨耶德说。
埃尔萨耶德专门在辛辛那提大学教育、刑事司法与人类服务学院的信息科技学院教授AI相关课程。她也是该校应用机器学习与智能实验室的创始人，自2022年以来一直领导该实验室。
"我的重点是如何改善生活质量和社会因素，使AI向善，AI可以被用来提升我们的生活，"埃尔萨耶德说。
临床语音转文本的五大关键风险
- 不一致的披露和同意实践
- 口音和言语障碍导致性能下降
- 临床设施中的额外噪音降低AI准确性
- 缺乏对AI生成文本的人工审查导致错误未被发现
- 错误责任不明确：是软件还是临床医生负责？
在审视数据时，埃尔萨耶德发现了当今临床语音转文本工具中的五大关键风险。这些风险涵盖了AI本身的问题以及医疗保健提供者如何处理软件数据的问题。
埃尔萨耶德表示，在数据最终确定前进行人工审核可以减少相当多的这些问题。
"我们需要有人在环路中检查文本是否准确反映了所说内容，"埃尔萨耶德解释道。"而且这种检查需要针对整个文本，而不仅仅是前几句话。"
埃尔萨耶德还发现，现实生活中的多种因素可能影响AI正确记录的能力。AI通常在"理想"环境中进行训练，没有真实医生办公室中的嘈杂声，如机器的蜂鸣声和医生的交谈声。如果不针对特定场景、不同口音和言语障碍训练大型语言模型，它们在现实生活中就不可靠。
减少错误的另一种方法是在医务人员采用软件之前对其进行培训。
"开发该系统的组织需要为医生提供指南，告诉他们可以使用什么，不能使用什么，以及需要注意什么，"她说。
现实生活中的应用
埃尔萨耶德在自己就诊时医生使用语音转文本记录就诊过程后，开始研究AI的缺陷。
"这篇论文对我意义重大，因为它实际上源于我的个人经历，"她说。
她的医生告知她，他们的对话将被记录以生成转录文本。这立即引发了埃尔萨耶德的问题。
"它会准确记录我说的话吗？还是像家人声音或护士在门外的谈话这样的噪音会干扰它？"
此外，她还考虑了自己的数据保密性。"我没有收到关于信息、背后的安全性、存储位置或谁会访问它的任何披露。"
尽管这项研究是概念性的，但她希望通过这些发现直接改善患者隐私和语音转文本系统的整体效果，使这些益处远远超过她详述的任何风险。
"作为系统，它对医生来说非常棒，因为它真正减轻了倦怠，减少了坐在电脑前打字的时间。他们可以给予患者更多面对面的时间，能够更好地倾听，"埃尔萨耶德说。"但我们需要有人检查这些文本是否准确反映了他们所说的话。"
（顶部医生在笔记本电脑上做笔记的特色图片。照片/Adobe Stock）
【全文结束】