凯文·弗罗：大家好，欢迎收听我们的节目。请在KevinMD.com/podcast订阅。今天我们再次欢迎穆罕默德·阿里·里法伊（Muhammad Aly Rifai）。他是一名内科医生和精神科医生。今天的KevinMD文章题目是《人工智能在医疗保健法规执行中的应用》。穆罕默德·阿里，欢迎再次来到节目。
穆罕默德·阿里·里法伊：感谢您的邀请。
凯文·弗罗：我们直接进入这篇文章，但在讨论之前，您为什么决定写这篇文章？
穆罕默德·阿里·里法伊：我曾受到美国司法部和卫生与公共服务部监察长办公室的调查和起诉。在这次起诉中，我发现美国司法部以及卫生与公共服务部监察长办公室一直在使用人工智能来针对那些“异常”的医生。具体来说，在COVID和远程医疗出现之前，我就已经在进行远程医疗服务，而且我是唯一一个提供这些服务的人。我还为宾夕法尼亚州农村养老院的精神病患者提供服务。不幸的是，人工智能的预测系统将我列为异常，但该软件未能识别到我是唯一提供这些服务的人，也没有可比较的对象。这促使我深入研究人工智能的话题，我在文章中详细描述了一些令人震惊的发现。
凯文·弗罗：好的，对于不熟悉您的故事的听众，先简单介绍一下美国司法部对您的指控是什么？
穆罕默德·阿里·里法伊：美国司法部声称我为未提供的服务开具账单。实际上，我们确实见过患者，但我们为宾夕法尼亚州农村养老院的严重精神病患者提供了专门的精神病服务。政府说我们只是提供基本服务，而实际上我们提供了详细且高度专业的服务。他们无法区分这一点。人工智能软件将我标记为异常，因为我是一个没有比较对象的异常者。
凯文·弗罗：好的，现在让我们谈谈您的文章。您探讨了人工智能在针对您的过程中扮演的角色。请您分享一下您的发现。
穆罕默德·阿里·里法伊：美国司法部和卫生与公共服务部监察长办公室以及医疗保险服务中心已经开始利用人工智能。人工智能基本上是一种计算机化的构造，模仿人类智能。有多种版本的人工智能，但他们特别关注的是计费代码。他们发送软件来检查计费代码，看是否有异常的代码——即与其他医生不同的代码，或从事不当行为的医生。
具体到我的案例，他们使用的软件会检查已故患者的计费情况。例如，我们有三个错误，其中两个患者出生日期相同，但我们错误地为已故患者而不是活着的患者开具了账单。然而，除了这三个错误，软件还发现了另外十个在我出生前、甚至在我上幼儿园或高中时就已经去世的患者。他们指控我为这些患者开具账单，但实际上那时我还没有执业。
凯文·弗罗：当您提出反驳和不准确之处时，您收到了怎样的回应？
穆罕默德·阿里·里法伊：回应是尴尬和缺乏解释。实际上，陪审团对这些发现非常同情，这也是他们最终宣判我不 guilty 的原因之一，因为他们意识到政府使用的软件存在不准确性，大约80%到90%的结果是不准确的，而且这项技术仍处于初级阶段。这是我决定写这篇文章的原因之一。
凯文·弗罗：那么，您的案例是个例吗？总体而言，当政府使用人工智能寻找潜在欺诈行为时，是否通常有效，还是您的案例更为常见？
穆罕默德·阿里·里法伊：我的案例是常态。软件和人工智能尚未准备好，仍在学习阶段。实际上，我正在撰写另一篇文章，讲述在我被起诉一年前发生的另一个事件，涉及尿管的异常计费。个人和公司为尿管计费30亿美元，而医疗保险软件未能检测到这一情况。是社区成员提醒医疗保险注意这一计费问题。人工智能尚未准备好大规模应用，目前产生的结果存在大量错误，导致对医生的不公正起诉。
凯文·弗罗：您对支持人工智能背后的技术有什么见解？为什么它不够准确？
穆罕默德·阿里·里法伊：首先，这项技术仍处于初级阶段，还在学习中。在我的起诉过程中，我了解到一家名为Safeguard Services的公司是医疗保险承包商之一，负责审计和使用人工智能。Safeguard Services是一家更大公司Peraton的子公司。我发现Peraton是联邦机构如FBI和CIA的承包商，提供用于追踪恐怖主义和其他安全威胁的人工智能技术。他们将这些软件改编用于医疗保险计费。
当你查看他们的广告时，看到这种技术被用来针对医生的医疗保险计费，可能会感到不安。这是为其他目的设计的软件，被改编用于探测医疗保险系统的计费异常。
凯文·弗罗：如果医生被卷入这样的案件，被错误指控，他们有哪些选择？
穆罕默德·阿里·里法伊：他们需要仔细审查统计分析。我们看到一些案例中，少量的异常计费被识别出来，然后被放大到更大的数字。例如，在底特律的Rajendra Batra博士的案件中，他们只审查了25,000名患者中的6份病历，然后从这次审查中推断出要求退还4.55亿美元。Batra博士在专家的帮助下揭露了人工智能被用于夸大司法部发现的问题，最终被判无罪。
凯文·弗罗：是否有特定的医学领域或典型的案件更容易受到这类虚假的人工智能指控？
穆罕默德·阿里·里法伊：是的，例如，被指控过量开处方阿片类药物的医生经常成为目标，使用人工智能进行筛查。现在，一些医生通过引入专家来证明自己不是异常者，人工智能错误地将他们标记为异常。当你深入挖掘基于人工智能算法的实际证据时，有时可以证明目标是错误的，从而获得无罪判决。
凯文·弗罗：您在上一期节目中分享了您的故事，但对于没有听过那期节目的听众，能否分享一下您澄清自己名誉的过程，情感上的困难，以及所需的时间和努力？
穆罕默德·阿里·里法伊：这是一个非常艰难的旅程，需要大量的努力、情感投入和无数个不眠之夜，梳理美国司法部提供的证据，了解软件是如何应用的。由于我对计算机的了解以及作为专家证人和精神科医生的经验，我能够借助其他领域的专家识别出不一致之处。我们发现了软件和证据呈现中的差异，这使我们能够有效地挑战这些证据。
然而，我们看到的趋势是，卫生与公共服务部监察长办公室、医疗保险服务中心和美国司法部正在实施能够预测谁可能过度编码或引起问题的软件，这是一个非常危险的方向。
凯文·弗罗：从政府的角度来看，您有什么解决方案？鉴于我们当前医疗保健系统的规模，一定程度的自动化是必要的，以筛选出不良行为者。人工智能是否有其作用？如果有，您会如何改进其使用？
穆罕默德·阿里·里法伊：当然，我认为人工智能有很大的作用，但它必须经过良好的培训，并由人工监督来验证其发现。在我的案例中，人工智能模型产生了结果，没有任何人工验证。他们在法庭上直接呈现数据，当我们指出不准确之处时，他们显得非常尴尬。关键是要有训练有素的人员来验证这些发现。例如，卫生与公共服务部监察长办公室1,600名员工中只有一名医生。让更多的医生参与验证这些发现将是一个显著的改进。如果医疗保险服务中心带着几位医生审核过的发现来找我，我会理解。但如果是由大学或高中毕业生审核计费并称其为欺诈，而不了解其细微差别，这就会成为一个大问题。
凯文·弗罗：我们正在与穆罕默德·阿里·里法伊交谈，他是一名内科医生和精神科医生。今天的KevinMD文章题目是《人工智能在医疗保健法规执行中的应用》。穆罕默德·阿里，最后请您为KevinMD的听众总结一些要点。
穆罕默德·阿里·里法伊：我认为人工智能将会继续存在，医疗系统和从业者需要意识到，他们可能会因为使用的代码或程序而被视为异常。重要的是他们要有自己的系统来比较自己与同行的差异。人工智能具有巨大的潜力，我希望我们能继续讨论如何在医学的其他领域有效使用人工智能。
凯文·弗罗：再次感谢您分享您的故事、时间和见解。谢谢您再次做客节目。
穆罕默德·阿里·里法伊：谢谢。
(全文结束)
