随着基于人工智能的技术不断发展，医疗健康界面临机遇与责任的双重挑战。我们如何理解并评估技术的影响？如何运用技术提升医疗质量？又如何确保技术能弥合长期存在的健康差距而非扩大差距？
马萨诸塞州卫生与医院协会（MHA）与国家卫生服务行政人员协会波士顿分会合作，近期举办网络研讨会，邀请专家帮助本地医疗机构探讨这些紧迫问题。
信任至上
“AI继承了医疗体系的信任赤字”，匹兹堡大学创新副主席帕特尔博士指出，当医疗系统无法满足患者需求时，这种态度便显现出来。讨论技术时必须同步审视其运作的系统、依赖的基础设施以及影响的社区。
马萨诸塞州的医疗系统已承诺消除护理差异、扩大医疗服务可及性、倾听社区声音，并建立新流程以重建信任。如今这项责任延伸至尖端技术与增强智能的应用，必须确保技术使用充分考量历史上服务不足的患者群体需求。
全领域共同承诺
波士顿医疗中心（BMC）副总裁兼首席医疗信息官蒂努·塔德塞博士强调，BMC等大型安全网机构有责任与供应商合作，确保黑人、棕色人种、公共医保覆盖者、低收入及多语言群体能参与技术的设计、实施与评估全过程。
她特别指出，AI技术开发者与供应商必须“保持谦逊”，在每个阶段都乐于接受建设性反馈。迭代式评估能建立问责机制——这对维系医疗机构与服务对象间的信任至关重要。否则，系统性缺陷将持续存在，健康差距将进一步扩大。
制度化问责机制
公民自由联盟马萨诸塞州分会技术与司法项目主任凯德·克罗克福德提出，问责制应通过制度确立。他援引汽车行业的经验：质量与安全法规设定了行业标准，数十年后我们因此获得更安全的汽车。
“既然能在事后识别危害，我们为何不能提前行动？”他呼吁共同构建问责框架，将公平性、透明度、质量与安全性贯穿AI开发全流程及跨行业应用场景。
耶鲁医学院助理研究科学家克里斯托弗·菲尔兹博士正致力于此。他在开发预测性与诊断性医疗算法时，着力破解训练数据中可能延续刻板印象、误读信息及错误归因人口差异的信息模型。这些问题在临床预测模型应用中影响显著，可能导致终末期肾病、糖尿病、高血压等疾病的漏诊或延迟诊断——当用平均数据指导个体决策时，数据误读风险尤其突出。
“种族是混乱的代理变量”，菲尔兹博士强调，“仅将其作为变量或校正因子衡量‘平均表现’远远不够。信任不仅关乎模型的平均效果，更在于我们是否清楚其有效范围与潜在失效场景。”
未来路径
本次讨论仅触及表层。深层问题仍待解决：如何构建更优模型？何处能确保开放反馈、透明度与问责制？我们究竟追求怎样的医疗体系？
正如帕特尔博士所言，首要任务是建立信任基石：
MHA成员通过创建共享学习空间践行这一承诺。随着更多聚焦医疗AI与健康公平的教育活动开展，我们诚邀您继续分享洞见与反馈，共同推进这项使命。
【全文结束】
