由约翰斯·霍普金斯大学等知名医疗机构参与的健康AI联盟（CHAI）正在推进其计划，旨在自我监管医疗保健领域的人工智能。该联盟成员包括梅奥诊所、微软和约翰斯·霍普金斯大学，计划建立一个质量保证实验室网络来评估AI工具。今天，该联盟详细说明了这些实验室需要执行的任务。
该联盟表示，实验室将评估AI工具是否：
- 能够有效运行并在研究中使用
- 产生有偏见的结果或在不同患者群体中表现不同
- 提供持续的性能监控
CHAI将根据实验室的能力对其进行认证。一些实验室可能进行部署前的评估和审计，另一些则进行部署后的监控。有些实验室可能具备所有三项能力。该联盟还将根据领域专业知识（如基于图像的AI或偏见检测）对实验室进行认证，并确保实验室没有利益冲突，保护其审查的数据的机密性。
所有实验室都必须遵守国际标准化组织（ISO）定义的测试实验室标准。这是一个位于瑞士的非政府组织，致力于确保技术平台在全球范围内的互操作性。
该组织还公布了符合卫生与公众服务部（HHS）要求的AI透明度标准，这些标准适用于寻求政府认证的企业。
为什么这很重要： 今年9月，HHS官员表示，该部门正在制定一项AI战略，该战略将于1月公开，其中包括一个质量保证实验室网络和AI安全计划。不久之后，HHS技术政策助理部长米奇·特里帕蒂告诉《Politico》，质量保证实验室将是该战略的一部分，他正在等待AI开发者和购买者就验证过程达成共识。
他还表示，HHS正在密切关注多个由私营部门主导的努力，包括健康AI联盟、加州大学戴维斯分校发起的VALID AI项目和杜克大学的健康AI合作伙伴关系，但他尚未支持任何一方。然而，特里帕蒂和FDA数字健康主任特洛伊·塔兹巴兹此前曾担任CHAI的顾问。
(全文结束)
