医疗行业正迅速将人工智能整合到从临床文档到患者分诊等各个方面。但阿尔特拉数字健康公司人工智能执行副总裁本·沙夫表示，一个关键且基本未得到充分重视的风险正在出现：自动化自满。
阿尔特拉数字健康公司是临床、财务及互操作性系统与服务的供应商，服务对象涵盖医院、医疗系统和大型医生诊所，本周在HIMSS26展厅的4431号展位参展。沙夫认为，自动化自满是HIMSS26与会者面临的最重要问题之一。
类似于警报疲劳
“目前关于风险的讨论大多集中在算法准确性和偏差等问题上，而没有关注实施后、临床医生开始日常使用这些AI工具时会发生什么，”沙夫解释道。“这种现象类似于长期存在的警报疲劳问题：持续不断的通知轰炸会导致脱敏。”
“同样，当临床医生面对源源不断的AI生成输出时，他们的审查程度可能会降低，”他继续说道。“这种注意力的减退可能对患者安全造成严重后果。”
他补充说，自动化自满问题的核心并非技术性，而是心理性的，根植于日常临床工作中的人机交互。
“随着我们急于推广和拥抱AI，对其输出变得过于舒适的风险也在增加，”沙夫指出。“这可能导致那些细微的、不易察觉的错误随着时间的推移而累积。例如，随着用于临床笔记的‘环境监听’技术的兴起，如果医疗服务提供者不再仔细审查输出，转录中的细微不准确（一个听错词或短语）可能不会被发现。”
“虽然笔记看起来是正确的，并且可以用于计费，但这些细微的不一致会在患者的病历中传播，导致难以追踪的错误信息级联效应，最终可能造成下游伤害，”他继续说道。
法律和患者安全风险
沙夫补充说，与自动化自满相关的法律和患者安全风险因具体的AI应用场景而异。
“将AI用于计费或排班的风险水平，与将其用于建议临床医生评估患者健康风险的风险水平截然不同，”他说。“随着这些技术在临床决策中变得更加核心，它们可能会受到更严格的监管。因此，我们将看到责任在医疗服务提供者、医疗系统和技术供应商之间的复杂分配，具体取决于应用场景。”
“因此，解决自动化自满问题不仅仅是技术改进的问题，更是确保患者安全和应对不断发展的AI医疗法律环境的关键任务，”他继续说道。“这种关注点的转变是试点项目和初期采用后现实世界经验的自然结果。”
最后，他总结道，随着医疗行业进入2026年，它正进入一个更成熟的AI整合阶段，这些心理和实际的人类挑战不再是理论性的，而是IT专业人士必须解决的新的运营现实。
在LinkedIn上关注Bill的医疗IT报道：Bill Siwicki
给他发邮件：
Healthcare IT News是HIMSS Media的出版物。
立即观看：AI和临床工作流中的模型上下文协议
【全文结束】