医疗AI已经在改变医疗服务的提供方式。真正的问题是，围绕它的系统是否准备好了。
这种转变已开始出现在医院之外。当美国参议院将一场听证会命名为“少些炒作，多些实质帮助”时，对话显然已经向前推进了。本月早些时候，我在参议院科学、制造与竞争力小组委员会作证，会议焦点正反映了这一变化。我的书面证词基于我作为Rad AI首席创新官在真实临床环境中部署这些系统的经验，也包含了我作为患者和护理者的视角。
多年来，主导问题一直是AI是否会取代医生。经过十年的争论，我们争论的大多是错误的事情。
真实的故事不是取代，而是整合。AI已经在改变临床工作如何完成——重新分配任务，压缩某些类型的工作，提升其他工作——这是在经济中最复杂、监管最严格的系统内部。这种变化是加强患者护理，还是仅仅增加噪音，取决于医院、监管机构和国会此刻正在做出的决定。
我对此深有体会。我花了十年时间，经历了一系列被忽视的症状，才被确诊为多发性硬化症。我并不符合典型的患者画像。我的病历被孤立存放。没有系统能标记出症状的模式。没有人能纵观患者全貌。这正是AI旨在弥补的差距——前提是我们负责任地部署它。在某个时刻，我们每个人都会成为患者、护理者，或两者皆是。
在参议院听证会上，一同列席的还有一家在人形机器人领域部署的机器人公司（其机器人在亚马逊仓库使用）、一位负责美国造船厂AI集成的西门子高管，以及一位追踪这些变化在不同地区如何演变的布鲁金斯学会研究员。正如西门子高管Brittany Ng所说：“问题不在于AI会夺走工业岗位，而在于生产复杂性不断增加的同时，熟练工人短缺。”医疗领域也是如此。
在造船业，西门子正在切割一块钢材之前就对整个船舶进行数字模拟，将设计周期从数月压缩至数小时。德克萨斯州沃斯堡的一个新工厂在破土动工前就在虚拟环境中模拟了整个生产车间，仍然创造了数百个工作岗位。在仓储物流领域，Agility Robotics指出，亚马逊在13年内部署了超过100万台机器人，同时在同一时期增加了140万名人类员工。如今制造业有40万个空缺职位无法填补。问题不在于自动化抢走工作，而在于缺乏工人去做这些工作。医疗领域也是如此。
“上市许可”并不意味着凌晨两点已就绪
美国已经拥有严格监管医疗技术的框架。美国食品药品监督管理局（FDA）已批准超过1400种AI医疗设备，现有机制允许系统在持续监控的同时进行更新。创新并未停滞。
但医疗AI并不像一台静态设备那样运作。性能可能会漂移。临床工作流程会变化。数据输入会演变。这些系统与人类判断互动的程度随环境、患者群体和一天中的时间而变化。在产品到达患者之前获得监管批准是必要的，但仅凭这一点并不足够。
主要专业协会最近明确指出了这一点：医疗AI监管的未来必须包括系统部署后的强有力监控，以及对其在真实世界表现进行持续评估。这反映了一个基本现实：动态系统需要持续监督。
基准测试很重要。但更重要的是，凌晨两点在一家社区医院里，一位真实患者正在等待答案时，会发生什么。
我们正在扩大规模，却无法衡量这些系统
过去五年在部署这些系统时，最让我惊讶的不是技术本身，而是检测与行动之间的差距。患者可能正坐在候诊室里，而他们扫描影像上的血块已经可见，AI可以在几分钟内标记出来，但标记并不是结果。它被看到了吗？它被采取了行动吗？它是否及时被采取了行动？
我们痴迷于模型是否正确，却忽略了系统是否有所响应。如果没有基础设施来测量标记后发生了什么，我们就是在盲目部署。这不是技术问题，而是测量问题，而目前我们把它当作别人的工作。国会可以在此发挥直接作用：支持用于验证AI性能的隐私保护国家数据集，鼓励对系统整个生命周期进行监控的标准，并加强允许AI工具在不同医疗系统间一致评估的技术框架。目前，这种监督大多孤立地进行，一家医院一家医院地做。
放射科的离职率在过去十年中几乎翻了一番，而影像量预计在未来30年将增长26%。劳动力并没有消失，而是不堪重负。放射科只是最先受到冲击的专科。
治理不是刹车，而是引擎
医疗健康依赖于信任，这一点是大多数行业所不具备的。
如果AI系统被视为不透明、不受监控或不负责任，那么无论底层技术多么强大，应用都会停滞。负责任的治理并不是医疗创新的刹车——它是让创新持久的动力。
近期的联邦讨论中已包括扩大政府数据访问权限以加速AI开发的提案。在医疗领域，更直接的机遇可能在于验证方面。用于部署后评估的精心设计、去标识化的数据集，能够像训练数据加速开发一样有效地建立信任。
医疗AI的下一阶段将不是由预测来定义的，而是由该领域如何衡量性能、如何随时间监控安全性、以及如何在这些系统大规模扩展时确保问责制来定义的。
一些最受尊敬的AI权威曾预测放射科医生将被淘汰。其他人也曾对自动驾驶汽车司机说过同样的话。放射科医生仍然自己开车上班。更重要的问题是，等待他们的工具是否以真正加强护理的方式受到治理。
【全文结束】