AI健康素养作为医疗保健中负责任AI的基础:可信赖实施的框架Frontiers | AI Health Literacy as a Foundation for Responsible AI in Healthcare: A Framework for Trustworthy Implementation

环球医讯 / AI与医疗健康来源:www.frontiersin.org美国 - 英语2026-07-16 06:27:08 - 阅读时长2分钟 - 700字
本文深入探讨了人工智能在医疗保健领域应用的核心挑战,即技术先进性与人类理解能力之间的关键差距。作者提出AI健康素养应作为负责任AI实施的基石,构建了涵盖临床医生、患者和治理专业人员的三层素养概念框架。研究分析表明,现有测量工具如eHEALS未能有效评估AI特定能力,缺乏算法素养、偏见意识、数据治理理解等关键维度。通过对高调AI失败案例的系统分析,文章揭示了素养缺陷在关键决策点的重要影响,并强调在推进AI技术与法规发展的同时,必须同步加强人类能力建设,才能真正实现医疗AI的可信赖部署和应用,为健康公平和有效医疗决策提供坚实支撑。
AI健康素养负责任AI数字健康素养医疗保健临床医生AI素养患者AI素养治理AI素养算法素养偏见意识
AI健康素养作为医疗保健中负责任AI的基础:可信赖实施的框架

背景:人工智能(AI)正在迅速改变医疗服务的提供方式,但越来越多的证据表明,技术复杂性与人类负责任地部署、解释和管理这些系统的能力之间存在关键差距。当前的AI伦理框架强调公平性、透明度和问责制,但它们忽略了一个基础前提:利益相关者的AI素养。

目标:本文提出了一个概念框架,将数字健康素养,特别是AI增强的健康素养,定位为临床医生、患者和治理专业人员可衡量的素养能力,即使在道德设计的AI系统中,如果没有这些能力,也将无法实现可信赖的部署。

方法:我们整合了三个领域的证据:(1)由于素养差距导致的医疗保健中已记录的AI失败;(2)数字健康素养测量工具的系统性综述,揭示了它们在AI背景下的不足;(3)欧洲数据治理(《通用数据保护条例》[GDPR]、欧洲健康数据空间[EHDS]和AI法案)的见解,表明没有利益相关者理解的法律协调会导致碎片化、无效的治理。

结果:对高调AI实施失败的分析表明,关键决策点的素养缺陷可能是一个促成因素的重复模式。当前的测量工具,包括eHealth素养量表(eHEALS,2006年开发),缺乏AI特定能力,并且测量的是感知而非实际技能。我们确定了现有工具中缺乏的六个AI素养维度,即算法素养、偏见意识、数据治理理解、AI输出的批判性评估、信任校准和可解释性解读。

结论:这些发现表明,医疗保健中的负责任AI可能需要在技术发展和法规制定的同时投资于人类能力建设。本文提出了一个三层素养框架,涵盖临床医生AI素养、患者AI素养和治理AI素养,具有特定于行业的能力和评估策略。这里提出的三层框架作为一个需要实证验证的治理假设,而不是由现有证据已经确立的结论。

【全文结束】