医疗AI联盟（CHAI）周五宣布完成了两份可能对医疗AI未来产生重大影响的草案文件。CHAI倡导建立一个全国性的独立保障实验室网络，用于医疗AI。CHAI将向其成员分享一份未来保障实验室的认证框架草案。此外，CHAI还完成了其版本的AI模型卡，有时也被称为AI“营养标签”。
“我认为这在医疗行业首次确立了AI模型披露和透明度的最低标准，”CHAI首席执行官布莱恩·安德森博士（Brian Anderson, M.D.）告诉《Fierce Healthcare》。
此前，卫生与公众服务部（HHS）副部长安德烈亚·帕尔姆（Andrea Palm）误在9月17日的Health Datapalooza上宣布，HHS将提供一个AI保障实验室网络。“我们将加强与行业的合作，提供一个符合我们质量保证框架的全国性保障实验室网络，以确保AI和算法模型的安全性和有效性，”帕尔姆说。
所有AI保障实验室都将经过认证过程，以确保它们符合适当的诚信要求。安德森在9月份告诉《Fierce Healthcare》，有32个地点正在争取获得认证。他表示，CHAI将在年底前宣布首批两个保障实验室。
认证保障实验室的主要要求包括披露任何利益冲突，并要求符合CHAI从食品药品监督管理局（FDA）借鉴的数据质量和完整性标准。另一个重要特点是保护模型的知识产权。“能够清楚地说明并透明地分享测试数据的保障实验室，以及使这些测试数据非常具有代表性，对于任何作为客户的医疗系统来说，将是这个网络中非常强大的能力，”安德森说。“因此，如果我们希望在这些实验室中建立信任，确保认证框架中有透明度、数据质量、可能用于创建该数据集的不同特征等方面的要求将非常重要。”
安德森表示，草案认证框架是在与ANSI国家认可委员会合作下编写的，并符合ISO 17025标准。他预测，在审查草案文件后，CHAI成员可能会更加关注指标和如何标准化保障实验室，以便模型开发者可以选择某个保障实验室以获得最佳结果。
CHAI的AI模型卡草案满足助理技术政策秘书（ASTP）/国家卫生信息技术协调员办公室（ONC）最终规则HTI-1的要求。根据HTI-1，AI开发者必须为其模型贴上AI“营养标签”，但仅限于通过认证的电子健康记录（EHR）部署时。通过ASTP认证EHR计划满足决策支持干预标准的算法必须在2025年1月1日前遵守新要求。HTI-1要求模型卡说明资金来源、预期用途、预期患者群体和已知风险等详细信息。当ASTP发布HTI-1时，并未规定模型卡的具体形式。现在，CHAI准备提供一个版本。
CHAI的模型卡可以用于所有医疗AI开发者，而不仅仅是受ONC管辖的那些，后者范围有限。CHAI的模型卡还要求比HTI-1的一般要求更具体的技术细节，安德森表示。因此，他认为模型卡可以为HTI-1的未来发展提供参考。HHS助理技术政策秘书兼代理首席人工智能官米基·特里帕蒂博士（Micky Tripathi, Ph.D.）曾表示，“行业尚未达成共识，这是行业首次尝试达成共识。”
安德森表示，CHAI尚未解决如何使AI部署后的监测对资源较少的医疗系统公平的问题。“框架中的部署后监测部分让我深感担忧，因为我不希望在AI革命继续发展的同时加剧数字鸿沟，”安德森说。
CHAI会员将在本周晚些时候在拉斯维加斯举行的HLTH 2024会议上审查草案文件。预计这些文件将于2025年4月公开。
(全文结束)
