医疗系统AI负责人淡看OpenEvidence争议,但密切关注事态发展Health system AI leaders shrug off OpenEvidence dispute — but are watching this rift - Becker's Hospital Review | Healthcare News & Analysis

环球医讯 / AI与医疗健康来源:www.beckershospitalreview.com美国 - 英语2026-07-22 15:17:10 - 阅读时长5分钟 - 2057字
针对《自然医学》研究显示OpenAI等通用AI模型在医疗基准测试中优于OpenEvidence等专业临床工具引发的争议,多家美国医疗系统AI负责人表示,他们从未过度依赖公开基准测试结果。各机构强调,内部验证、多学科评估和针对特定患者群体的实地测试才是决策关键,尤其关注模型在亚群体中的表现及错误成本分布。专家指出,公开基准仅作为初步筛选,床边应用需严格本地化验证,同时需警惕模型拒绝回答机制可能被规避的风险,确保评估流程的诚实性和临床安全性。
医疗AI临床AI工具临床安全患者体验本地化验证AI治理医疗系统临床应用模型可解释性偏差评估
医疗系统AI负责人淡看OpenEvidence争议,但密切关注事态发展

2026年6月《自然医学》发表的一项研究显示,OpenAI、谷歌和Anthropic的通用模型在多项医疗基准测试中优于OpenEvidence和沃尔特斯·克鲁尔的专业临床AI工具。此后,OpenEvidence要求期刊撤回该论文,沃尔特斯·克鲁尔也对其方法论提出异议。

对于实际决定哪些AI工具投入临床使用的高管而言,这场争议并未带来实质性影响——因为他们本就不重度依赖已发表的基准测试结果。

麻省索默维尔市的麻省总医院布里格姆医疗保健系统(Mass General Brigham)评估标准取决于工具预期达成的成果及"平衡措施",该系统副总裁兼首席健康信息官丽贝卡·米舒里斯医学博士表示:"我们关注与临床安全、质量、用户体验和患者体验相关的方面,此外还包括常规的隐私、安全、模型可解释性和偏差评估。我们始终依托负责任的AI使用框架。"

不过,米舒里斯博士指出,独立研究和麻省总医院布里格姆自身的内部测试比供应商验证数据更具说服力。"我们希望看到工具在我们环境中的实际表现,"她强调。

位于珊瑚阁的南佛罗里达浸信会健康系统(Baptist Health South Florida)首席数字与信息官沙·埃达图姆帕拉姆皮尔表示,已发表的基准测试和供应商材料(如模型卡片)虽能将AI产品引入评审环节,但不足以推向临床应用。"任何解决方案投入生产前,内部AI治理部门会联合医疗系统各部门专家(包括医生和护士)进行全面评审,随后通过真实数据测试工具效果,"他解释道。

埃达图姆帕拉姆皮尔指出,这一步骤至关重要,因为基于大型全国数据集训练和验证的供应商模型,面对特定医疗系统的患者群体时表现可能不同。"因此在临床环境中,本地化验证和人工干预环节必不可少。"

与此同时,纽约市西奈山医疗系统(Mount Sinai Health System)通过专门建立的保障实验室进行本地化验证,该实验室旨在临床应用前测试所有AI工具——无论来自供应商还是内部开发。

"公开基准测试是整体评估的一部分,我们予以关注,但其作用仅限于初步筛选,"西奈山创新与创业主管本·格里克斯伯格博士表示。"高分仅说明工具值得深入考察,却无法反映其在我们患者身上的实际表现,以及能否回答医护人员的真实问题。"

格里克斯伯格博士称,实验室大部分精力用于依托系统自身用例构建的内部基准,在西奈山庞大且多元的患者群体中进行测试——尤其关注模型在亚群体中的表现稳定性,而非仅看平均值。

西奈山首席AI官吉里什·纳德卡尼医学博士表示,实验室会重点分析工具失效场景而非单纯统计成功率,因为错误成本分布并不均等。"一个自信的错误答案可能比多个正确答案影响更严重,"他指出。"公开基准测试帮助我们筛选值得深入审查的工具,但它们本身绝无可能直接批准床边应用。"

争议中的一个焦点问题在医疗系统领导者眼中更为复杂:如何解读模型拒绝回答的行为。

米舒里斯博士表示,拒绝行为可能是安全机制,也可能反映训练漏洞,需视具体情境而定。

埃达图姆帕拉姆皮尔认为,关键问题不在于工具是否拒绝回答,而在于其拒绝理由是否合理且解释充分。"若将每次拒绝都视为缺陷,可能助长错误行为:模型在不应自信作答时却给出肯定回应,这在临床环境中极其危险。但'拒绝总是更安全'的观点同样不妥,因为拒绝可能掩盖能力缺口。"

纳德卡尼博士补充道:"真正令我担忧的是,人们轻易就能绕过拒绝机制——通过改写问题或删除触发警告的细节,突然就能获得工具原本试图规避的答案。若一次重述就能破解的拒绝机制,根本算不上安全保障。"

格里克斯伯格博士指出,西奈山将评估视为持续过程,因为患者群体不断变化,模型在上线后长期运行中也可能出现性能漂移。

这种姿态反映了其他系统的AI监管思路:纽约大学朗格尼医疗中心已停用部署后验证不达预期的工具;克利夫兰诊所和洛杉矶塞达斯-西奈医疗中心则因供应商常无法确认工具在特定数据上的表现,自主开发了内部验证工具;密苏里州切斯特菲尔德的仁慈医疗系统和休斯顿德克萨斯儿童医院同样构建了多学科治理框架,在工具接触患者前进行严格审查。

对于这场公开争端本身,受访领导者普遍态度淡然。米舒里斯博士的评价仅用一个词概括:"噪音"。

纳德卡尼博士认为,尽管具体争议未必具有决定性,但深层矛盾真实存在——他预计"资源雄厚的通用AI开发者"与"规模较小但实力不俗"的领域专注型临床供应商之间的结构性拉锯将持续。"我确实不知谁将'胜出',这问题本身或许就不恰当,因为答案可能因任务而异,并随双方发展而变化,"他表示。"我真正关注的是,在此过程中我们评估工具的方式能否保持诚实。"

【全文结束】