专家警告，尽管人工智能工具正在深刻影响疾病诊断、患者护理和医院运营，但真正取得进展的关键在于完善人工智能全生命周期的评估、监管及协作机制。
发表在《美国医学会杂志》(JAMA)的研究探讨了人工智能在医疗领域的机遇与风险。研究者认为，人工智能虽具巨大潜力，但需构建完善的生态系统以确保其改善健康成果。这要求在四个关键领域取得进展：利益相关方参与、更优评估方法、国家级数据基础设施以及促进稳健公平实施的激励机制。若负责任地开发，人工智能对医疗的革新可能成为解决医疗可及性、成本和质量等长期问题的绝佳机会。
背景
人工智能正迅速融入日常医疗，但其整合已达到关键十字路口。尽管技术前景广阔，早期努力往往分散，常聚焦于技术准确性或孤立的安全检查，而非这些工具是否真正改善患者预后。
当前缺失的是强有力的协调体系，以确保医疗人工智能的有效性、公平性和负责任使用。
目前监管体系未能同步发展。评估方法通常过于笨重难以用于实际，监督也参差不齐。这意味着大量人工智能工具在缺乏坚实证据证明其实际帮助患者的情况下被采用。论文指出，美国食品药品监督管理局(FDA)、联邦贸易委员会(FTC)、医疗保险和医疗补助服务中心(CMS)以及国家卫生信息技术协调员办公室(ONC)等多个机构虽参与监管人工智能，但均无完全权限，留下重要缺口。
为推进发展，作者提出四支柱路线图，以构建医疗人工智能负责任使用的必要基础设施。目标不仅是采用新工具，更要确保其真正以有意义且可衡量的方式造福患者。
医疗领域人工智能工具
人工智能工具在医疗各领域日益普及，但每类工具都面临独特挑战。医学影像AI和电子健康记录(EHR)警报等临床工具虽广泛使用，但其采用常因高成本以及对准确性和实际价值的持续担忧而受阻。
直接面向消费者(DTC)工具（如健康应用和聊天机器人）构成庞大且快速增长的市场。然而，许多此类工具在极少监督下运行，缺乏实际健康益处的坚实证据。在运营方面，人工智能被用于简化排班和资源管理等任务，但其对患者预后的影响很少被追踪。
另有混合工具如AI文书助手，兼具临床和行政功能。这些工具正快速普及，研究显示其尤其受到临床医生和患者的欢迎——特别是当集成到现有EHR系统时。
每类工具在实施、评估和监管方面都带来自身复杂性，凸显了对更有针对性的监督和更明确标准的需求。
人工智能的评估、监管与负责任使用
医疗人工智能领域的一个关键辩论集中在哪些工具真正需要评估。临床工具通常面临更严格审查，特别是那些需要FDA批准的工具，但许多直接面向消费者(DTC)和业务运营工具在几乎没有证据证明其对健康预后影响的情况下推出。
评估人工智能工具本身具有内在复杂性。首先，定义干预措施本身就可能很棘手。人工智能工具的性能不仅关乎算法本身，还取决于用户如何与其交互、培训程度以及使用的特定临床环境。
此外，追踪工具对长期健康预后的影响需要时间、资金和持续努力。虽然随机对照试验(RCTs)是证明因果关系的黄金标准，但鉴于人工智能工具的快速演变，它们往往不切实际。这促使人们日益关注能跟上快速发展步伐的新试验设计和真实世界观察方法。
一个主要问题是，没有单一团体被明确要求负责进行这些评估。开发者、医疗系统和政府机构都缺乏充分动力，有时也缺乏能力，去执行确保安全性和有效性的严格测试。
监管监督也参差不齐。FDA涵盖被归类为医疗器械的人工智能工具，但许多其他工具——尤其是用于行政支持或一般健康维护的工具——则被豁免。部分原因在于《21世纪治愈法案》，该法案将某些软件类型（如用于计费、排班或健身追踪的软件）排除在医疗器械定义之外。其他机构如FTC则聚焦于误导性营销声明等更窄问题，导致医疗人工智能应用的许多领域缺乏实质性监督。
除评估外，负责任的实施和监控也带来持续挑战。人工智能工具的成功往往取决于本地条件——其整合方式、使用者及其理解程度。大多数医疗机构根本没有基础设施、技术专长或能力在其自身环境中验证人工智能工具或进行长期监控。这种缺乏本地测试和后续跟进的情况在将人工智能用于患者护理时产生了切实风险。
潜在解决方案与影响
为应对人工智能带来的挑战，作者提出四项解决方案：首先，转向全产品生命周期管理，要求开发者、临床医生、患者、医疗系统和监管机构从设计到部署进行持续协作；其次，开发新的测量和评估工具，以高效、稳健地评估人工智能对健康预后的实际效果，而不仅是安全性；第三，构建适当的数据基础设施和学习环境，促进大规模、代表性数据共享，以在不同环境中推广人工智能工具性能的发现；最后，通过政策和市场力量创建正确的激励结构推动变革，可借鉴《健康信息技术促进经济和临床健康法案》(HITECH Act)等过去成功推动EHR采用的举措。
作者还建议，成功实施还需要大量劳动力教育以提升人工智能素养并适应专业角色职责变化，同时解决数据权益和责任归属等复杂伦理法律问题。他们强调确保人工智能工具公平获取的重要性，以免技术进步加剧现有医疗差距。
结论
总之，释放医疗人工智能的全部潜力需要一个全新的支持系统。
当前挑战包括碎片化的评估流程、监管盲区和实施障碍，这些都凸显了协调一致的长期方法的必要性。前进道路取决于人工智能工具全生命周期中利益相关方的持续协作、评估实际效果的实用方法开发、国家级数据基础设施投资以及支持负责任使用的财务和政策激励机制创建。
作者还指出，仍存在未解决的伦理问题可能影响监督和问责。若无清晰框架和协同努力，人工智能的扩展可能加深现有不平等，而非全面改善预后。
尽管如此，研究者仍持乐观态度。
在审慎治理、强大合作伙伴关系和稳健数据系统到位的情况下，人工智能在医疗中日益重要的角色有望切实改善医疗可及性、效率和患者预后。
【全文结束】
