最近通过的加州参议院第1120号法案（“医师决策法案”）引发了关于AI在医疗决策中作用的关键讨论。作为一名在平衡创新与患者权利方面有多年经验的医疗技术专业人士，我认为这项立法是一个及时的机会，可以探讨AI在医疗领域的潜力和挑战。
该法律的核心在于，禁止健康保险公司仅依赖AI来拒绝健康保险索赔，确保人类判断在覆盖决策中仍然占据核心地位。这不仅仅是加州的问题——它是一个即将在全国范围内展开的辩论。虽然该法案强调了在医疗中保持人性的重要性，但它也带来了操作和技术上的挑战，需要仔细考虑。
在医疗中恢复人性
医疗决策是极其个人化的。对于等待改变生活程序批准的患者来说，这个过程不仅仅是交易性的，而是深刻的情感体验。通过强制要求人工监督，加州的法律确保影响患者生活的决策能够纳入额外的外部因素、背景和细微差别——这些是任何算法都无法完全复制的，无论其多么复杂。
例如，患有罕见或复杂病症的患者可能无法完全符合AI模型的训练数据。AI可能会基于统计异常或不完整的模式标记拒绝索赔。然而，人工审核员可以采取全面的观点，考虑独特的情况并在必要时咨询临床医生。
患者与其医疗服务提供者之间的关系应该建立在同情心和责任感之上——这两种品质往往与现代医学中定义的财务压力相矛盾。一个旨在优先考虑公平性和患者结果的算法系统能否比受公司指令束缚的人类从业者表现出更多的同理心？毕竟，同理心不仅仅是情感反应——它是以患者的最佳利益为导向的能力。这是AI可以在其中发挥优势的领域，因为它不受不良经济激励的影响。
我们需要考虑我们构建的系统，确保无论是由人类还是机器驱动的同理心都能融入诊断、治疗和护理的每一个阶段。是时候把患者而不是账本放在每个决策的中心了。
公众对医疗系统的信任近年来受到了考验，拒赔率的上升导致了挫败感和怀疑。通过促进人工问责制，这项立法发出了一个强烈的信息——患者不仅仅是数据点。这是朝着重建一个往往显得冷漠和不透明的系统信任迈出的一步。
操作和技术的权衡
然而，任何法律都会有权衡，而“医师决策法案”也不例外。要求所有索赔决策都进行人工监督带来了显著的操作挑战。人工审查本质上比自动化流程更耗时且成本更高，这可能导致保险公司的行政费用增加。这些成本最终可能会转嫁到患者身上，表现为更高的保费。
此外，较慢的索赔处理时间可能会延迟护理或报销——这与行业提高效率和患者满意度的目标背道而驰。当负责任地部署时，AI在快速准确地处理大量索赔方面表现出色，能够识别模式并标记差异。限制其使用可能会阻碍保险公司在有效扩展运营方面的能力，尤其是在索赔量持续增长的情况下。
先进AI技术的低利用率可能会停滞创新。现代AI系统越来越复杂，能够从历史数据中学习并随着时间的推移提高准确性。我们应该关注的是开发结合AI效率与人类判断同理心和细微差别的框架，而不是完全排斥这些系统。
前进的道路：平衡技术和人性
创新与问责制之间的紧张关系并不是新鲜事，但在医疗保健领域，这种关系的利害关系更高，因为决策可能是生死攸关的。加州的立法具有重要意义，但不应被视为这个问题的最终答案。
与其禁止仅由AI做出的决策，一种更为平衡的方法可能更好地服务于患者和医疗系统。这可能包括：
混合决策模型：保险公司可以实施系统，让AI进行初始索赔评估，标记简单批准或拒绝，同时将复杂案例路由给人工审核员。这种方法利用了AI的效率，同时确保对边缘案例进行人工监督。
透明度和审计：要求保险公司记录和审计AI驱动的决策可以增强问责制而不抑制创新。患者应有权获得其索赔评估的明确解释，包括AI的作用。
国家标准：医疗保健本质上是相互关联的，通过远程医疗、多州健康计划和全国性保险公司跨越州界。依靠各州立法会导致规则的拼凑，可能令人困惑且效率低下。为医疗索赔决策中AI的使用制定国家标准将提供清晰和一致性，同时设置保护患者的护栏。
投资于AI培训：并非所有的AI和大型语言模型（LLMs）都是平等创建的。在多样化的高质量数据上训练AI模型，并不断验证其输出与现实世界结果的一致性，可以减少错误并提高对技术的信任。保险公司应与临床医生、患者和监管机构合作，以改进这些系统。
展望未来
“医师决策法案”是一个警钟，提醒我们医疗不仅仅是效率问题——它关乎人。当我们拥抱AI的变革潜力时，我们必须警惕其局限性和意外后果。对于从事医疗技术的人来说，这是一个呼吁寻找在创新与人性之间取得平衡的解决方案，并利用AI作为增强而非取代人类判断的工具。
加州的方法是解决这一挑战的一种方式，但它不是唯一的方式。很明显，这场对话才刚刚开始。随着更多州考虑类似的立法，以及AI的不断发展，医疗行业必须共同努力，确保技术能够实现其最终目标——改善患者结果。
记住，我们的目标不是将人类与机器对立起来，也不是声称只有人类才有同理心，而是找到一种方法使两者和谐共处。当我们找到了正确的平衡时，每个人都会受益，尤其是患者。
(全文结束)
