2026年e-Health大会亮点
医院新闻摘要
• 医疗领导者表示，成功采用人工智能取决于强有力的治理、数据质量以及临床医生对AI工具工作原理和局限性的理解。
• 专家强调了评估AI偏见、保护患者隐私以及在使用AI医疗记录等技术时确保知情同意的重要性。
• 新的国家框架和独立评估正在帮助医疗机构更安全、负责任且更有信心地采用人工智能。
人工智能正迅速进入医疗环境——但医疗服务提供者是否已准备好将这些工具应用到实践中？在本月于哈利法克斯举行的e-Health大会上，加拿大医疗保护协会(CMPA)的医师顾问克里斯汀·德玛丽亚(Christine De Maria)讨论了随着人工智能在加拿大医疗系统中更广泛部署，医疗服务提供者需要考虑的重要事项。
她指出，AI模型通常在"黑箱"中运行，这意味着用户可能无法完全理解模型如何得出结论。不幸的是，AI模型的质量仅取决于其训练所用的数据。
"垃圾进，垃圾出，对吧？"德玛丽亚说道。
她提到了发表在《自然医学》杂志上的一项研究，该研究揭示了大型语言模型(LLMs)中存在的令人担忧的偏见。例如，LLMs更有可能为黑人患者推荐侵入性干预措施。此外，LGBTQ+个体被推荐进行心理健康评估的可能性比临床指示高出约六至七倍。
德玛丽亚表示："如果AI向医疗专业人员推荐歧视性做法，即使完全无意，医疗专业人员仍需承担责任，并可能面临人权投诉。因此，如果工具中存在偏见，你将承担风险。"
她强调了彻底评估AI工具并确保其有益于特定患者群体的重要性。
她指出，即使是相对简单的工具，如总结医患互动的AI记录员，也可能引发有关同意的重要问题。虽然目前加拿大没有涉及AI记录员的诉讼，但德玛丽亚表示，CMPA正在密切关注加利福尼亚州的一起案件，该案件中记录员在未经患者同意的情况下被使用。
即使患者提供同意，他们也可能对数据存储位置和使用方式有疑问——医生需要准备好回答这些问题。
在演讲结束时，德玛丽亚强调了提高AI素养的必要性，以便临床医生更好地理解技术和如何应用它。她将AI比作MRI技术——医生不需要了解MRI机器的工作原理，但他们需要了解该检查的益处、局限性和适当的临床用途。
幸运的是，越来越多的工具和框架正在出现，以支持医疗组织采用AI。
值得注意的是，联邦政府最近发布了加拿大国家人工智能战略《全民AI》(AI for All)，该战略通过28份任务组报告和超过11,000次公众咨询制定。该战略涉及从隐私和安全到确保加拿大人获得AI素养培训等广泛主题。
加拿大健康信息研究所也发布了其《健康数据管理框架》，以支持健康数据的治理、共享和使用。它包括《健康数据管理实施工具包》，提供自我评估工具、术语表和资源清单，以支持健全的数据治理。
在e-Health大会的其他演讲中，一个共同的信息浮现出来：组织应通过仔细评估、员工教育、AI素养和明确关注预期结果，采取周到、深思熟虑的方法来采用AI。AI工具不是"即插即用"的解决方案——它们需要战略、目的和持续评估。
评估AI工具
在另一个环节中，Edge Health加拿大业务的联合创始人兼负责人詹妮弗·康诺利(Jennifer Connolly)讨论了她的公司对NHS England用于紧急疑似皮肤癌诊疗路径的AI工具进行的独立评估，该工具旨在减少皮肤科候诊名单。
她解释说，在该路径中，大约十分之九的转诊最终被证明是不需要治疗的良性皮肤病变，而人员短缺使患者等待时间更长，对诊断不确定。
正在评估的工具DERM——由Skin Analytics开发的AI医疗设备——分析皮肤病变照片，以识别良性病例并确定哪些患者需要专家随访，将需求从皮肤科医生处转移。
NHS England的门诊恢复与转型计划希望确定该技术是否在实际应用中兑现了承诺，在全国15家医院试点后，委托Edge进行独立评估。
Edge的经济分析比较了两种情景：一种是皮肤科医生审查DERM的建议（人工环路二次审查），另一种是DERM自主运行。团队计算出二次审查模型的成本效益比为1.5，自主使用的成本效益比高达2.3——意味着每投入1英镑可节省高达2.30英镑。
Edge还完成了安全审查，制定了上市后监测计划，为实施后持续监测提供了明确建议。
康诺利强调，即使在渴望拥抱创新的医疗系统中，临床AI也必须在真实条件下证明其价值，同时通过监管批准和人工验证赢得临床医生和患者的信任，然后才能广泛或自主采用。
她的核心信息是，独立的现实世界评估产生了NHS做出知情采用和资金决策所需的财务和安全证据。这些证据最终帮助推翻了先前认为缺乏足够证据支持DERM常规自主使用的决定，为其作为标准临床实践的一部分铺平了道路。
【全文结束】