一些主要健康保险公司正在使用人工智能来审批或拒绝理赔申请。
这引发了对人类监管缺失的担忧，以及这项技术是否能够解决医疗系统中已有的不平等现象。
朱德·奥杜是一位拥有25年经验的健康技术专家。他表示："如今，在人工智能时代，一切变得更加自动化。过去，在保险公司拒绝一项理赔前，必须有人类查看理赔申请，审查所有临床背景。但在过去几年中，他们几乎100%地将这项工作外包给了人工智能。"
奥杜曾在美国最大的健康保险公司之一工作。他还创立了Health Cost IQ公司，该公司使用AI模型来识别政府和雇主赞助的健康计划中的浪费和低效率，并于5月出版了一本关于AI驱动健康计划的书籍。
奥杜最近接受了WUSF的加布里埃拉·保罗的采访，讨论了将医疗理赔决策完全交给人工智能的危险。
（以下采访内容经过编辑以提高清晰度和简洁性。）
保罗：朱德，你职业生涯开始时在联合健康保险公司工作。所以，你见证了AI进入这一领域之前医疗理赔决策是如何做出的。那是什么样的情况？
奥杜：是的，那时我在申诉和拒赔部门工作，虽然我不是拒赔委员会的成员，但我了解这个过程：护士会进来，医疗主管会进来，他们会查看病例并讨论大约30秒，然后医疗主管会简单地敲下木槌说"拒赔"，然后他们就会关闭该文件并转向下一个。这让我得以从内部了解我们的医疗系统是如何运作的。
保罗：你对美国医疗系统也有国际视角。你出生在尼日利亚，在德国长大。你能告诉我我们的医疗保险系统与全球相比如何吗？
奥杜：在美国以外的发达世界，情况大不相同。例如，人们不会因为医院账单而破产。这与美国的情况完全不同，在美国，医疗保健是大生意。
从这个角度看：拒赔实际上是好生意，因为这些是大型股东公司。你支付的理赔越少，赚取的利润就越多。这是一个非常简单的等式。
保罗：当你将AI加入这个等式时，特别是当你考虑到已有的健康不平等现象，以及AI已知会放大错误而非修复它们这一概念时，这意味着什么？
奥杜：AI的好坏取决于其训练数据，以及编写计算机程序的人。因此，在健康不平等的情况下，AI本质上做的是，它采用了现有的歧视框架，并将其放大，因为这就是它被训练要做的。
我有几个例子。
联合健康集团在2020年以25亿美元收购了一家名为NaVi Health的公司。它拥有一个AI算法。现在他们正在被起诉，因为据称该系统产生的九成预测在患者申诉后被推翻...这意味着AI做得不好。
还有一个用于安排患者预约的AI系统，它使黑人患者的等待时间延长了33%。该模型使用邮政编码、就业状况、保险类型和过去未就诊率等——所有这些都与种族相关。
保罗：这显然是有问题的。那么，在健康保险领域使用AI有理由吗？
奥杜：有。这一切都归结为AI系统的正确实施。这意味着你必须有意识地留意AI系统可能放大已有不平等的可能性。
例如，你可以建立一个AI系统，审计100%的所有理赔，然后指导它检测某些看起来具有歧视性的情况。例如，它可以留意某些程序被拒绝的比率在特定邮政编码或特定人口统计学群体中是否远高于其他人。
可以训练使用包容性数据集的模型，识别高风险成员，例如患有慢性疾病，然后这些AI系统将做它们最擅长的事情，即协调。这意味着根据它的发现触发事件和行动。它可以被积极地用于为某些人群填补护理缺口。
保罗：简而言之，这种观点的转变是说，在医疗保健空间中使用AI的"北极星"不应该是效率，而应该是患者健康结果。对吗？
奥杜：是的，这是主要方向。我会说效率收益无论如何都会到来。AI系统擅长使事物更高效。
现在，对健康保险公司、对保险商来说高效的，可能对你我作为患者来说并不高效。因此，当主要健康保险公司为自己提高效率时，这可能会导致我们面临更糟糕的结果。
保罗：最后，我想转向这一切的政治层面。已经有来自特朗普政府的讨论，关于让政府支持的计划使用AI做决策。这是我们正在走向的方向吗？
奥杜：它会到达那里，我是说，医疗保险和医疗补助服务中心已经在大规模部署AI，它过滤到医疗保险和医疗补助只是时间问题。
这个堤坝无法阻挡。它将会崩溃。但我并不太担心堤坝崩溃，而更担心我们如何引导水流。我支持确保AI周围有护栏。尽管它潜力巨大，但你仍然需要将这种力量引向好的方向，否则你可能会遇到非常意想不到的后果。
加布里埃拉·保罗为WUSF报道了生活在坦帕湾地区月光族人们的故事。
【全文结束】
