要点
- 医疗保健行业数据丰富，但生成式人工智能只有在用户具备正确解读和负责任应用其输出结果的AI素养时才能真正创造价值。
- 盲目信任或错误应用AI输出会损害临床决策，危及医疗消费者和患者安全，并削弱生态系统信任。
- 数字健康公司必须将AI素养直接融入产品工作流程，以支持治理、一致性和信任建立。
随着人工智能塑造医疗决策，AI素养成为洞察与错误之间的分界线。数字健康技术可以帮助临床医生和患者在实际工作流程中高效、负责任地运用AI洞察。
医疗保健行业从不缺乏信息。从电子健康记录(EHRs)到影像学、基因组学和患者生成的数据，医疗系统充斥着各类输入信息。许多人将生成式人工智能(GenAI)视为解决信息过载和数据复杂性的方案。
但仅靠信息综合是不够的。根据IBM的一项调查，近一半的高管认为其员工缺乏大规模实施AI技术所需的技能，而AI治理中心估计有610万美国工人在工作中接触AI，却无法适应AI带来的变化。尽管如此，实施AI赋能解决方案的兴趣和压力仍在不断增长。
因此，参与采购、合规和医疗AI治理的医疗领导层现在正将AI素养列为优先事项，包括提高用户的基本技能和对AI赋能医疗解决方案的了解。同时，这一转变向数字健康技术开发者传递了一个更深层次的信号：AI在医疗保健领域的成功不仅取决于模型性能，还取决于最终用户理解、解读和应用其输出结果的有效程度。这为数字健康技术开发者带来了机遇和责任——提供不仅可靠、安全的AI，还能将AI素养直接嵌入用户体验的先进解决方案。
理解AI风险及其对患者和医疗消费者信任与结果的影响
医疗AI不仅仅提供信息；它塑造决策并帮助影响行动。
"呈现信息可以改变决策，"威科集团医疗健康首席医疗官彼得·博尼斯博士解释道。"约30%的情况下，如果在护理点或附近提供信息，医疗保健专业人员会改变其决策。因此，如果这些信息存在某种错误，可能导致次优护理，甚至损害患者安全。"
当AI生成的输出被误解、错误应用或盲目信任时，后果会被放大。博尼斯表示，这让医疗采购团队难以评估生成式AI工具，因为它们"在融入工作队伍的同时也在不断演变"，且通常难以确定它们在临床可靠性方面的最终表现。
医疗保健专业人员、消费者和患者之间共享AI素养的需求
数字健康技术组织日益认识到，医疗保健中的AI素养必须同时在三个群体中建立：
- 临床医生和护理团队：必须在不损害判断力的情况下将AI融入共享决策过程。
- 患者和医疗消费者：必须对AI增强——而非取代——护理感到放心。根据CHAI最近的一项调查，93%的消费者对AI在医疗保健中的使用至少有一个担忧，超过50%的人表示这使他们对医疗保健的信任度降低。
- 数字健康技术组织和卫生系统管理人员：必须平衡赋能临床团队与安全顾虑，如合规性、治理和问责制。2025年医疗保健领域与AI相关的安全漏洞平均成本超过740万美元。
如果没有在这三个利益相关者群体中共享AI素养，即使管理良好的AI系统也可能在使用点失败。
在最近一次由克利夫兰诊所、西雅图儿童医院、芝加哥安·罗伯特·H·卢里儿童医院、纽万斯健康和芝加哥大学医学院的领导者参与的Becker's Healthcare讨论中，一个共同的挑战浮出水面：AI采用速度超过了AI素养提升速度。这些组织不再仅仅将其视为合规性问题，而是将其重新定义为可用性、透明度和教育差距——这是数字健康技术必须帮助填补的差距。
从这次讨论中，出现了三个开发者需要考虑的关键点：
- 用户会寻求通用AI工具当现有解决方案不足时：尽管企业批准的工具可用，临床医生和员工仍在转向"影子AI"以满足即时需求，这表明需求未得到满足，并同时创造了风险和机遇。
- AI输出可以直接影响护理决策，无论好坏：如果没有明确的背景、验证和保障措施，AI可能会以用户无法完全理解的方式影响决策，特别是在护理点。可持续的治理取决于赋能——而非限制——负责任的使用。
- 领先组织正寻求引导安全采用而非试图控制它：他们通过将监督与教育、透明度和跨职能协作相结合来实现这一点。
对数字健康公司而言，这些信号强化了一个明确的转变：AI素养不仅是一个培训挑战——更是一个设计挑战。
更大的图景：AI素养支持更健康的生态系统
AI素养不仅仅关乎改善个人决策。它关乎通过以下方式塑造整个生态系统：
- 减少护理差异。
- 支持工作队伍可持续性。
- 增强消费者和患者参与度。
- 加强全系统信任。
数字健康技术公司正在为可能将输出解释为专业建议或指导而非仅考虑的信息的用户构建AI赋能体验。为了对抗医疗AI中的"过度信任"，开发者必须设计将素养融入工作流程本身的AI赋能体验，使用可信的临床智能、药物背景和适合患者的教育内容。
模型上下文协议(Model Context Protocol, MCP)有助于支持结构化、可重复的AI流程，减少差异并增强信任。通过为连接AI代理与可信临床智能创建更具可扩展性的路径，它帮助数字健康公司将解决方案输出从通用综合转向基于经批准临床内容的情境感知指导。
"当你能够利用技术来降低复杂性和行政负担时，你就创造了更好的参与和同理心条件，"威科集团先进技术主管兼首席技术官亚历克斯·泰瑞尔博士解释道。"这为你腾出了宝贵的时间，使你能够与患者和会员建立有意义的关系和共同理解。"
数字健康技术公司应将共享AI素养视为其产品和更广泛医疗保健生态系统的必要条件，构建帮助临床医生、患者和组织从原始信息转向负责任的临床智能的AI体验。
支持AI素养目标的AI赋能内容
随着数字健康的不断发展，成功的组织将不是拥有最先进AI的组织——而是能够赢得医疗专业人员和消费者信任并发展和赋能具备AI素养用户的组织。
【全文结束】