最近，《华尔街日报》的一项调查揭示了一个令人震惊的事实：保险公司从医疗保险中获得了高达500亿美元的资金，这些资金用于治疗实际上从未被医生诊治的疾病。这一欺诈行为激增的一个最令人担忧的方面是所谓的“瞬时欺诈”（instafraud）的出现。这种做法利用人工智能，特别是大型语言模型，生成虚假或夸大的医疗记录。这种由AI驱动的审查可以立即通过伪造或夸大未由医疗保健提供者做出的诊断，为每位患者每年产生大量额外收入。
我们采访了Medicomp Systems的首席执行官David Lareau，讨论了AI技术这把双刃剑，这些技术有巨大的潜力改变行业，但也可能被不良分子用来创建支持夸大诊断的文件。我们与Lareau讨论了瞬时欺诈、大型语言模型的作用、如何打击瞬时欺诈，以及他会对医院和卫生系统的C级高管说些什么，这些高管对AI持保留态度，尤其是因为像瞬时欺诈这样的问题。
问：请详细描述一下什么是瞬时欺诈，它是如何运作的，谁从中受益？
答： 我们的首席医疗官Jay Anders博士向我介绍了瞬时欺诈的概念，这与患者风险调整评分的欺诈性膨胀有关，有时是通过使用大型语言模型生成包含患者实际并未患有的病症的就诊记录来实现的。Anders博士在参加了一门提示工程课程后，发现将一系列诊断发送给大型语言模型并获得一份看似支持这些诊断的完整笔记是多么容易，而无需提供者进行任何证据或调查。我们担心这将变得太容易和有利可图，以至于提供者和保险公司难以抵制使用这种方法来增加额外收入。
我们之前有过不道德的人和企业利用技术“钻系统空子”的经历。我们的第一次遭遇是在1997年评价和管理（E&M）指南引入时，潜在用户问：“你能告诉我需要输入哪一两个额外的数据元素才能达到下一个最高级别的会诊吗？然后我可以将它们添加到笔记中，这将增加支付。”更近一些，人们在询问如何使用AI来“怀疑”额外的诊断以生成更高的RAF评分，无论患者是否患有这些病症。这种方法比使用AI验证每个诊断的记录是否完整和正确要普遍得多。
不仅仅是通过使用AI，企业和提供者才会犯欺诈行为，而是通过实施政策来“发现”患者没有的潜在诊断并将这些诊断记录在案。例如，让家庭护理人员询问患者早上是否有不想起床的情况，得到“是”的回答可能会生成抑郁症的诊断，从而获得更高的RAF评分。谁有时候不会觉得早上不想起床呢？但如果没有适当的检查和其他与抑郁症一致的发现，抑郁症的诊断可能是欺诈性的。
问：大型语言模型在其中扮演什么角色？犯罪分子是如何获取这些模型和支持其工作的数据的？
答： 大型语言模型已成为医疗保险优势计划中瞬时欺诈现象的核心组成部分。这些复杂的AI模型被用于大规模和高速地生成虚假或夸大的医疗记录。大型语言模型擅长处理和修改大量患者数据，创建令人信服但虚构的医疗叙述，这些叙述很难与真实记录区分开来。这种能力使得可以即时生成欺诈性诊断，每名患者每年可能因此多获得高达10,000美元的不当支付。
需要明确的是，使用大型语言模型和数据进行瞬时欺诈的人并不是普通的“罪犯”。事实上，保险公司是这种技术驱动欺诈的主要罪魁祸首，他们可能利用其正常运营中已有的广泛患者数据。他们可能使用商业上可用的AI系统，这些系统变得越来越容易获取，或者可能开发专为此目的定制的专有系统。这引发了对患者数据滥用和AI在医疗保健环境中部署的伦理影响的严重关切。
问：如何打击瞬时欺诈？谁应该负责打击？
答： 打击欺诈的责任分布在各个利益相关者之间。监管机构和政策制定者必须实施更严格的监督和处罚，以遏制欺诈行为。医疗保健提供者在验证诊断和挑战虚假记录方面发挥着关键作用。技术开发者负有创建具有适当保护措施的道德AI系统的责任。
保险公司必须承诺负责任和透明地使用AI，优先考虑患者护理而非利润。审计员和调查员在检测和报告欺诈行为方面至关重要，是防止瞬时欺诈的重要防线。最终，CMS负责管理医疗保险优势计划，必须更加积极主动地检测欺诈并追究企业和个人的责任。
目前有工具可用于审查图表和编码以检测欺诈，但如果没有对那些监督和实施欺诈行为的人采取严厉后果，执法努力将缺乏足够的威慑力，财务处罚将继续被视为做生意的成本之一。一个初步步骤是建立举报保险欺诈的举报人计划。但直到对个人采取非常严重的后果，包括可能的监禁，医疗保险优势计划中的欺诈成本将继续上升。
以《萨班斯-奥克斯利法案》（Sarbanes-Oxley Act）为例，该法案要求CEO和CFO认证其组织的财务报表。如果这些高管在财务报表不准确的情况下仍予以认证，将面临最高五年的监禁、巨额罚款以及其他纪律处分，如民事和刑事诉讼。这提高了误导投资者和公众的风险。类似的，对于在医疗保健企业内管理医疗保险报销政策和程序的人员，结合举报人计划，可能提供一种更积极主动的方法来预防故意欺诈，而不是仅仅试图事后检测。
问：你会对你的同行和医院及卫生系统的C级高管说些什么，他们认为AI是一把双刃剑，并对其持保留态度？
答： 当面对对AI在医疗保健中的双重性质持保留态度的同行和C级高管时，强调几个关键点非常重要。AI应被视为增强而非替代人类专业知识的工具。“LLM医生”不仅是一个错误的概念，而且可能很危险，因为它忽视了人类医疗护理中不可替代的方面，如共情、直觉和复杂决策。
需要采取平衡的方法，既利用AI的计算能力，又利用人类医疗保健专业人员的细致判断。这包括实施技术驱动的防护措施，同时促进人类合作，以减少错误并建立对AI系统的信任。重点应放在使用AI改善护理交付上，而不仅仅是最大化账单或简化行政流程。
医疗保健组织应采用能够高效、有效和可信地临床使用大型语言模型的技术，但始终要与人类临床医生合作，而不是试图取代他们。认识到在医疗保健环境中实施AI时需要强大的验证和信任构建措施至关重要。这包括透明的流程、定期审计和关于AI如何用于患者护理的明确沟通。
最终，AI应被视为增强人类决策的强大工具，而不是替代它。通过采用这种视角，医疗保健组织可以利用AI的好处，同时减轻其风险，从而改善患者结果并实现更高效、更道德的医疗保健系统。
(全文结束)
