根据最近一期《Health Affairs》杂志上发表的一项研究，许多使用预测模型的美国医院并未对其工具进行内部准确性评估，更少有医院对其进行潜在偏见的评估。
这项“令人担忧”的分析指出，报告对其预测模型和AI进行本地评估的医院通常是那些自行开发工具的医院，而不是使用其电子健康记录供应商提供的算法。此外，高利润医院和医院系统中的医院也更频繁地报告本地测试的情况。
研究人员在期刊中写道：“我们还发现，关键访问医院、其他农村医院和为社会剥夺指数较高地区提供服务的组织更不可能使用这些模型。”这表明，服务于边缘化患者群体的医院可能无法像服务于更有利群体的医院那样获得AI的好处。
在接受调查的2023年超过2400家医院样本中，65%报告使用AI或预测模型。这些工具最常用于预测住院患者的健康轨迹（92%）或识别高风险门诊患者（79%），尽管也有医院报告用于调度（51%）、治疗建议（44%）、账单支持（36%）和健康监测（34%）。
在报告使用AI或预测模型的医院中，61%使用来自其自身组织的数据评估这些模型的准确性，而44%报告进行了偏见评估。使用这些模型预测住院风险的医院更有可能报告本地评估，而使用该技术进行门诊随访或账单自动化的医院则较少报告，这可能反映了对AI管理应用风险低于临床工具的误解。
近五分之四的受访医院表示他们使用的是EHR开发商提供的模型，而59%表示来自第三方，54%表示是自研的。26%表示他们使用了所有三种来源的模型，而24%表示他们仅使用EHR开发商提供的模型。
这一分布值得注意，因为研究人员发现，自行开发预测模型的医院更常见本地评估，这可能是由于开发模型和本地评估所需的技术专长相似。依赖EHR开发商模型且较少进行本地评估的医院更容易使用不准确或带有偏见的模型，这可能会损害患者利益。基于医院类型的本地评估趋势，研究人员警告称，有必要通过增加开发者提供的模型信息或有针对性的干预措施来提高医院的评估能力，以防止“富者愈富”效应。
明尼苏达大学公共卫生学院助理教授Paige Nong作为该研究的主要作者在一份声明中说：“通过关注医院之间评估能力的差异，这项研究突显了医院类型之间日益扩大的数字鸿沟所带来的风险，这威胁到公平治疗和患者安全。”
她补充道：“许多资金充足的医院和学术医疗中心可以设计自己的模型，针对其自身的患者进行定制，然后在内部进行评估。相比之下，关键访问医院、农村医院和其他资源较少的医院则购买这些‘现成’的产品，这意味着它们可能是为与其实际患者群体差异很大的患者设计的，可能无法反映当地患者的需求。”
(全文结束)
