关于AI治理的讨论可能会让许多人感到厌烦，但这一学科对于AI在医疗保健领域的崛起至关重要，就像来自多样化患者群体的大规模训练数据集一样。杜克大学Margolis健康政策研究所的研究人员在10月28日发布的一份白皮书中深入探讨了这一主题。研究团队收集和整理了来自六家美国医疗系统的专家意见，这些系统都设有AI治理操作。研究人员还添加了来自其他医疗系统的AI专家的访谈内容。最终形成的10页论文描述了AI治理的关键组成部分，并建议医疗系统如何从零开始建立治理系统。为了强化论文的核心主题——如何协调创新、问责和信任——作者提出了五种执行良好AI治理的方法。其中三种侧重于人员，两种侧重于流程：
1. 决策权
一些医院和医疗系统将决策权交给分配AI工具预算资金的人，作者解释说。“其他医疗系统更倾向于集中决策过程，由审查团队或更大的治理小组做出最终决定，”他们写道。“还有一些医疗系统将部分或全部决策权交给高层领导，后者依赖于审查过程的建议。”更多内容：
“这可以确保AI工具的选择与整体AI标准和战略一致。”
2. 治理委员会组成
许多AI治理委员会是跨学科的，成员来自IT、临床护理、信息学、法律、隐私、伦理、合规、人力资源、患者参与、DEI和财务等领域，作者指出。“有些成员有相关的AI背景，”他们补充道，“但其他人可能需要在其专业领域内接受有关AI影响的额外培训。”更多内容：
“选择将AI治理整合到传统技术治理中的组织还提供了如何有效评估AI工具的培训。”
3. 患者声音的角色
许多医疗系统希望在可能影响护理的AI工具决策中纳入患者的视角，作者承认。然而，一些系统在允许非医疗系统员工“了解整个审查过程”时遇到了潜在的法律和后勤挑战。更多内容：
“由于患者传统上不参与技术选择和实施，因此在这个领域需要更多的最佳实践研究。”
4. 治理范围
“AI是一个广泛的术语，治理系统需要明确其管辖范围内的工具，”作者表示。“一些组织关注一系列AI工具，而另一些则仅关注机器学习驱动的工具。”还有一些只审查企业级工具。更多内容：
“治理范围由多种因素决定——包括可用资源——并且随着治理系统的成熟，范围可能会发生变化。”
5. 工具识别
医疗系统“必须确保在考虑AI工具时将其纳入治理过程，”作者写道。“一些团体建立了与IT和采购办公室相关的流程来‘捕捉’范围内的工具。”更多内容：
“没有完美的流程，有时工具会漏网。”
作者进一步警告：“识别现有工具何时升级为AI支持的软件选项，以及已实施的AI工具何时进行重大更新，可能需要额外的治理行动，这也是一项挑战。”
(全文结束)
