上周,纽约市健康+医院首席执行官米切尔·卡茨博士站在《克莱恩纽约商业》的听众面前,发表了一个伪装成困境的宣言。
他想要用人工智能(AI)取代“大量放射科医生”。就在今天。他告诉我们,实现这一愿景的唯一障碍是监管环境(也就是FDA)。
让我们先消化一下这句话。因为我有一个后续问题,我想你已经知道答案了。
没人愿意明说的监管双重标准
以下是临床AI部署中一个令人不安的事实。当你想要用一个算法来读取乳腺X光片时,你会进入一个严酷的考验:FDA的“软件即医疗设备”(SaMD)框架、510(k)许可或De Novo分类、设备对照分析、临床验证研究、上市后监管要求,以及模型漂移后毁灭性的责任风险。
这不是官僚主义的阻碍——这是对患者的保护,并且它被设计得进展缓慢。现在,问问你自己:用AI系统取代医院CEO,受什么监管框架管辖?
什么都没有。没有FDA提交,没有临床试验,没有De Novo路径,没有责任豁免,没有“如果监管机构允许就好了”的演讲。部署时间是零天。
这并不是一个漏洞。这是美国医疗监管架构上的一个事实。行政AI(管理资源分配、预测患者数量、优化供应链、起草董事会治理文件的系统)在进入市场方面面临零监管障碍。
所以,卡茨愿景的核心存在一个苏格拉底式问题:如果AI已经准备好处理医学中风险最高的认知工作——即需要综合多年临床病史、关乎生死的影像解读——那为什么它不能已经运行你的采购部门?
为什么我们不在一个风险只是糟糕的电子表格而非癌症漏诊的实验上先行一步?
三十年的行政臃肿
在我们讨论AI的成熟度之前,先让我们明确我们到底在讨论什么。
1970年,美国的医生数量远多于医疗高管或管理人员。到2009年,管理人员数量是医生的十倍以上。从1975年到2010年,美国医生数量增长了150%。而行政人员数量增长了3200%。
这不是管理不善。这不是偶然。这是数学上的必然:监管复杂性、支付方碎片化、计费代码激增,以及医院官僚体系奖励人员数量以换取地位、地位换取生存的政治经济学的复合结果。行政臃肿不是一种症状。它是一个系统在完全按照其激励要求行事。
如今,美国医疗保健每花费一美元,估计有34美分用于行政成本。管理费用是美国医疗中最大的一项开支。不是药品,不是设备,也不是医生薪酬。
而AI与以往所有改革尝试在结构上的不同之处在于:它不会谈判。它不会保护自己的地盘。它不会感到疲倦,也不会悄悄地将资源重新导向自己部门的编制。AI不是一个管理顾问,向你展示200页的幻灯片,然后收取实施费用。它是一个能够以应用于其他任何优化问题时同样的冷静和一致性,来纠正三十年累积臃肿的系统。
问题不在于AI能否做到这一点。问题在于,那些从行政人员数量中获益最多的人,为何极力鼓吹AI应用,却只字不提自己的办公室?
推出CaaS:CEO即服务
以下是每个点头赞同AI效率福音的医院CEO面临的真切智力挑战:
如果算法能够管理一个存在数千个相互依赖关系且零容错空间的全球供应链,为什么它不能比一个人类高管更好地管理医院的资源分配?而人类高管按其设计,本身就会受到董事会政治、供应商关系和自我保护本能的影响。
这种架构已经存在。一个CaaS(CEO即服务)框架并不需要科幻小说。它只需要整合现有的企业级AI能力:实时财务建模、基于证据的人员配置优化、预测性患者管理、自动化合同分析和治理报告。它会由一个精简的、真正负有责任的人类董事会监督。
CaaS系统不会完全取代人类判断。它会约束人类判断中历史上成本最高的部分:即保护自身利益而牺牲机构利益的部分。
没有自我意识。没有地盘争夺。没有关于他人工作应该首先被自动化的大会主题演讲。
这个想法让人不舒服吗?很好。不舒服的感觉说明你正在问对的问题。
无人构建的问责架构
让我们直接讨论责任问题,因为这是总被用来反对临床AI的一张牌,而在行政AI的讨论中却明显缺席。
当AI辅助的放射系统漏诊了一个恶性肿瘤,法律和伦理上的风险是即时、严重且存在性复杂的。谁来承担责任?审阅标记的放射科医生?训练模型的供应商?部署模型的医院?这是一个切实存在的难题,FDA的SaMD框架正是为了在患者受到伤害之前,迫使这个问题浮出水面。
现在问问:当一位人类CEO错误分配了4000万美元的资本支出、搞砸了一次并购、或者将一个系统带入结构性赤字时,问责机制是什么?
董事会。董事会雇佣了他,批准了他的薪酬,然后会在下一个机构为他提供软着陆。
以下是医院领导层中没有人愿意公开为之辩护的不对称性:医生因其每一个临床错误而面临执照委员会、医疗事故系统和公众问责。而高管则面临友好的董事会和离职补偿谈判。相比之下,一个管理行政运营的AI系统将为每一个资源决策产生不可篡改的审计跟踪,没有任何政治庇护。
放射科阅片室并不是问责缺口所在。C-suite高管层才是。
问责的呼吁
我并非主张AI在放射学中没有作用。我主张的是顺序问题,是思想上的诚实。
因此,我对每一位曾以“效率”一词结尾并指向某个临床工作岗位的医院CEO提出挑战:请先在你们的行政运营中部署一个AI治理层。开源结果。公布节省的成本。向整个行业展示,当黄金降落伞被移除时,基于证据的资源分配是什么样子。证明你们对AI的信心不是有条件的,当优化函数指向你们自己的办公室时,它不会神秘地消失。
如果AI真的能带来你们承诺的从放射科阅片室挤出的效率,那么行政套房应该是一个展示窗口,而不是一个例外。问责制将会清晰。你们在临床AI上的可信度将无可指摘。
但如果AI只是对“别人的工作”具有变革性,那么这就不是一个技术争论。这是一个穿着技术争论外衣的权力争论。
医疗保健领域AI革命的阿尔法测试者,应该是那些推销它的人。
所以,卡茨博士:您先请。
Waseem Ullah博士拥有放射学、神经放射学和信息学的三重委员会认证,并担任密歇根州杰克逊市亨利·福特联盟健康中心的放射学副主席。他也是一名投资者和连续创业者。
【全文结束】

