波士顿——有效的人工智能治理工作常常因重叠法规的混乱迷宫、患者选择退出等法律挑战，以及碎片化和孤岛式数据集而受阻。
但本周在HIMSS医疗保健AI论坛上的小组讨论中，演讲者表示，医疗系统可以建立成熟的数据治理计划，并与所有利益相关者合作，以确保AI的安全性和可信度。
小组成员在数据治理讨论中表示，清除这些障碍需要临床、运营和IT领导者的积极参与和合作、主动的数据准备，以及基于风险的AI安全策略。
"我们需要采取多方利益相关者的方法，"小组主持人、美国食品药品监督管理局(FDA)数字健康卓越中心的拉希德博士表示。
"非常快速发展的领域"
围绕安全、有效和高效部署AI的挑战有很多。
例如，正如加州大学欧文分校健康中心首席医学信息官兼临床信息学副总裁迪皮·潘迪塔博士所指出的，遵守州级法规（如加州众多近期AI法律）对医疗机构构成了合规性挑战，甚至带来了伦理考量。
潘迪塔描述了一位拒绝在护理中使用AI的患者。
"那么会发生什么？"她问道，"这是否意味着我们自动拒绝为该患者提供护理？他们将去哪里？因为隔壁系统也在使用AI，隔壁的系统也在使用AI。所以，他们是否在州一级拒绝了医疗服务？我们还没有解决这个问题。"
潘迪塔补充道，合规和法律团队成员解释说，患者不能指定"外科医生应该使用哪种尺寸的手术刀进行手术，所以他们不能告诉我们应该使用或不应该使用哪种AI。"
"从合规和监管的角度来看，我们正处于一个非常模糊的区域，即在医疗保健中使用AI到底意味着什么，"她说。
高级研究计划署健康(ARPA-H)的项目负责人埃里卡·金表示，这是一个"非常快速发展的领域"，需要标准操作程序将AI系统部署到实际应用中。
金此前曾在国立卫生研究院(NIH)从事癌症基因组学和数据管理工作，她也是一名信号处理工程师。
"我们需要在现实世界中与这些问题搏斗的社区帮助我们获得正确的需求和对瓶颈所在位置的正确理解，以及真正需要为人们建立信任的事情，"她说。
"作为这里的联邦政府雇员，这实际上是我对社区的行动号召：请告诉我们，与我们交谈，与我交谈，"金说。
操作手册有帮助，但并非即插即用
明确地将数据治理目标与积极成果联系起来——例如减少临床医生倦怠、保护患者数据安全以及提高临床工具的准确性——可以帮助促进有效治理所需的协作。
但小组成员表示，治理不能仅仅依靠医疗机构的IT或合规团队——它需要多方利益相关者的方法。AI的成功管理需要在其整个生命周期中进行监督，从采购到退役。
AI论坛小组成员建议建立一个正式的数据治理委员会，定期召开会议，包括了解数据收集和使用方式的数据管理员或用户、临床医生、研究人员和运营人员。
还应包括了解存储、架构和安全协议的数据保管员，即数据库管理员和网络安全专家等IT领导者。
然后，将合规和法律工作人员添加到治理委员会中。
目前，AI治理通常在不同实体之间——制造商、开发者和医疗系统——像"接力"一样依次进行。
由于法规无法跟上AI技术的发展，医疗机构面临着一个混乱的、分层的合规环境，涵盖联邦机构（如FDA）、州级法规、地方医院政策和认证要求。
对于一个实体的治理责任在哪里结束，另一个实体的治理责任从哪里开始，存在一些猜测。
"有操作手册，但这些操作手册并非即插即用，"潘迪塔说。"它们对每个系统都不以相同的方式工作，因为每个系统的资源不同。他们的问题不同。他们的文化不同。他们对风险的接受程度不同。"
治理、工作流程和文化
然而，没有成熟的数据治理，AI治理就不可能存在。正如潘迪塔所指出的，"糟糕的数据将导致糟糕的AI。"
为了在数据治理方面实现成功的协作，组织必须摆脱僵化、官僚的政策，转向共同所有权。
由于医疗保健数据在很大程度上是非结构化的、"混乱的"并且迅速扩展，组织必须首先解决数据完整性、翻译和标准化层。
"将所有这些整合在一起并确保它是一个连贯的过程，这并不是一门精细的科学，还没有人掌握，"临床资产管理与工程公司TriMedx的高级副总裁德尼萨·兰伯特说。
"真的不能把它交接出去；你必须同时掌握所有这些。"
医疗保健数据编码已经高度可变，但来自环境技术和患者生成的真实世界数据的新层次只会增加复杂性。
将所有这些信息整合到现有数据元素中以改善洞察力，是数据管理者的新兴领域。
"我认为这真的很有挑战性，因为当你引入这些设备时，它们被视为单个设备本身，但一切都是混合在一起的，一个设备与另一个设备一起工作，"兰伯特说。
"当你从制造商模型的角度看结构时，你是把它看作一个单独的个体，我认为还没有人掌握如何将所有这些整合在一起，这使得即使从监管角度看也非常混乱。"
关键是将数据治理直接连接到工作流程现实，潘迪塔说。
在引入新软件或AI工具时，她建议将供应商视为协作伙伴。就数据所有权、如何监控数据漂移以及如何在系统之间安全移交数据建立明确的前期协议。
此外，将安全护栏构建到医疗机构已经使用的工具中，因为如果将AI治理视为僵化的检查清单，它就会失败，潘迪塔建议。
"当你构建AI治理时，你必须不仅仅从治理的角度来看待它，"她说。"这是治理与工作流程和文化的结合。
"你必须将你的文化细微差别和工作流程现实融入你的治理结构中。这不仅仅是为了治理而治理。"
这种方法是将治理视为一种赋能工具，并将叙事从限制数据转变为保护和最大化其价值。
"我非常热衷于我们如何真正使数据更具可用性，真正从我们医疗保健系统中存储的[患者]数据以及由NIH资助用于进行大量研究的许多不同存储库中带来生命，"金说。
多层结构提高了数据质量并覆盖了翻译数据层。
"而这就是AI真正可以帮助清理潜在的'垃圾'或帮助其与人们用于交换健康信息的标准保持一致的地方，"她说。"这些都是我们可以实施的不同层次，可以使用真正干净的黄金标准基准来测试您应用于整理数据和清理数据的AI工具。"
安德烈亚·福克斯是Healthcare IT News的高级编辑。
Healthcare IT News是HIMSS Media的出版物。
【全文结束】