在美国国家医学院（NAM）于6月12日举办的一次网络研讨会上，几位新特别出版物的共同作者描述了一个AI行为准则框架，旨在指导医学领域中负责任、有效、公平和以人为中心的AI使用。
该AI行为准则框架旨在成为组织和团体在其特定环境中开发方法时的参考点。该出版物提出了六个承诺和十个原则，以使该领域围绕负责任的AI开发和应用达成一致。这六个承诺是：推进人类福祉、确保公平、参与受影响个体、改善员工福祉、监控性能以及创新和学习。
患者倡导者兼Enlightening Results创始人Grace Cordovano博士表示，她赞扬美国国家医学院和AI行为准则团队在主要健康AI工作中首次真正代表并系统地嵌入患者和护理伙伴的观点。她指出，关于对AI的信任的讨论在整个医疗生态系统中已成为优先事项，而行为准则将成为建立信任的渠道，尤其是对于患者、家庭、护理伙伴和患者社区。“我想强调的是，该准则将患者视为健康AI的主要利益相关者、最终用户和共同创造者，并且同样认识到患者主导的治理和权利是必不可少的。”Cordovano说。
其中一个倡导重点是在AI生命周期的所有阶段都包含患者的声音。“该准则为开发者和系统建立了透明度要求，解释所使用的数据及其用途，以及在我们的护理中使用的AI工具及其性能。因此，信任和透明度至关重要。”她补充道。“我们还关注将AI监控的临床和技术规范翻译成患者友好的格式，以支持知情的消费者参与。我期待有一天，AI不仅仅是背景中的东西或我们在新闻中听到的东西，而是整个生态系统都在支持患者教育和透明度，并建立信任。”
对研究人员的影响
华盛顿大学医学院卫生信息和数据科学副院长Philip Payne博士，同时也是医学院首席数据科学家，分享了团队对AI研究及使用AI进行研究的影响的看法。他说，其中一个问题是，在快速创新的情况下，如何确保有适当的机制来分享不仅成功案例，还有失败案例，“这样我们可以创建一种累积性的AI创新方法，避免已经识别和充分描述的潜在陷阱。”
Payne表示，研究人员意识到，由于AI方法的基本性质以及越来越多地使用比以往任何时候都要庞大的数据来训练、评估和部署这些技术，他们需要考虑如何在AI开发、评估和最终扩展的整个生命周期中深入嵌入隐私和伦理。“这意味着我们不仅要考虑研究场景中的伦理问题，还要考虑如果这些项目成功，未来应用中的伦理、法律和社会影响如何扩大。”他补充道。
凯撒医疗集团的实际案例
凯撒医疗集团执行副总裁兼首席医疗官Andrew Bindman博士分享了医疗系统的观点。他指出，医疗系统可以在指定和推广使用健康AI的业务和临床需求方面发挥领导作用，并负责确保在护理交付中使用AI时，能够公平地惠及患者，并以一种增强对医疗系统信任的方式使用。“这包括仔细考虑诸如患者隐私、同意、代理、问责制、解决法律责任和财务责任以及克服与劳动力相关的挑战等问题。”
Bindman给出了一个凯撒医疗集团使用负责任AI框架的实际案例，他表示这一框架反映了NAM报告中概述的承诺。“在凯撒医疗集团，AI工具必须推动我们提供高质量和负担得起的护理的核心使命。这意味着AI技术必须展示出对健康的回报，例如改善患者的治疗结果和体验，我们在开发、评估和部署任何技术（包括基于AI的工具）时优先考虑安全性、公平性和健康结果。”他说。“我们致力于评估潜在的AI技术，持续监控其性能，并遵守既定的临床标准和指南。我们正在使用AI来改善护理，增强患者与医生的关系，优化医生的时间，并通过解决个人需求来确保公平和护理体验及健康结果。”
Bindman强调了凯撒医疗集团如何在其辅助临床文档工具的实施、评估和监控中具体应用和落实负责任的AI原则。该工具支持医生和临床医生在住院期间安全地记录临床笔记，并帮助他们专注于与患者的交流而不是文档或行政任务。“我们在部署过程中采用了质量保证（QA）流程，经反思，这与NAM报告中概述的医疗系统承诺非常一致。NAM报告中提到的一个承诺是在高层次上推进人类福祉。我们发现这项技术有助于医生和其他临床医生营造一个可以提供有效沟通和透明度的环境，同时满足每位患者的个人需求。”他说。
凯撒医疗集团根据临床反馈评估了有限英语能力患者的性能，发现非英语会话中存在一些不一致的性能问题。“我们进行了专门的质量保证测试，评估非英语使用者的性能，并确实发现了一些问题，因此我们在这种情况下暂停了该工具的使用。”Bindman说。“我们与供应商进行了沟通，并解决了这些问题。我们始终要求患者同意使用该工具。我们评估了患者的体验，并观察到使用该工具的临床医生对患者体验产生了显著的积极影响。简而言之，患者欣赏的是注意力集中在他们身上，而不是键盘上。”
凯撒医疗集团收集了临床医生的经验，发现该工具帮助减少了他们在行政任务上花费的时间，从而减轻了他们的倦怠感，并增强了沟通和幸福感。“医疗系统必须解决的一个问题是，什么代表了AI持续监控的最佳实践。”他说。“作为一个致力于成为学习型医疗系统的组织，我们接受从最新证据中学习的责任，并且我们有责任为这项新技术的知识做出贡献。虽然我们和其他医疗系统在建立负责任的AI治理系统和开发新工具方面取得了重要进展，但我们作为行业仍然有很多需要集体学习的地方。就AI工具的初始和持续监控的最佳实践达成一致将是有帮助的。这类似于跨医疗组织的质量绩效基准的价值。一致性是关键。不同层级政府或不同监管或认证机构之间的不一致AI标准是没有帮助的。这对于资源有限但可能从AI承诺中获益最多的医疗组织来说尤其具有挑战性。”
(全文结束)
