今年可能会带来人工智能如何塑造医疗保健行业以及反之亦然的重大变化，平衡技术的炒作与确保患者安全将是至关重要的。
尽管美国食品药品监督管理局（FDA）迄今为止已批准了超过1,000种由人工智能和机器学习驱动的不同医疗设备和软件，但这些设备目前尚不具备自行更新程序以跟上新数据的能力。一旦进入临床应用，它们的算法就被锁定，并且每次面对相同输入时都会得出相同的结论。
然而，在生成式AI兴起的推动下，能够通过真实世界反馈改进性能的软件可能终于会在2025年出现——而该机构和行业最近都在为未来应用做准备方面取得了进展。
“我们正处于一个非常有趣的转折点，”现实世界数据公司OMNY Health的联合创始人兼首席执行官Mitesh Rao博士表示，“我们正处在一个关键时刻，许多下一阶段可持续使用AI的关键组件即将成为每个人优先考虑的事情。”
“这些都是我们无法忽视的东西——可以说是AI中不那么吸引人的部分——我们开始关注诸如安全性和合规性等要素，以及可以作为护栏的元素，”Rao在接受采访时说。“这是非常重要的一环，因为这意味着我们已经走过了炒作周期，现在开始思考实质问题——以及我们需要做什么来使这项技术在未来具有可持续性。”
去年12月，FDA发布了关于预定变更控制计划（PCCP）的最终指南，向AI开发者提供了如何在其产品获得监管批准后规划未来的软件更新而不必每次都重新提交产品进行机构审查的建议。
PCCP包括修改程序的协议和对任何变更潜在影响的评估。还应包括软件更新频率的限制以及防止结果偏差发展的计划。
与此同时，唐纳德·特朗普的连任及其对新政府成员的选择——包括科技投资者大卫·萨克斯作为白宫首位“AI和加密货币沙皇”——向行业传递了政府对该领域潜在方法的信息。
“我认为这表明，‘让我们引入一些了解AI问题的人，但他们也来自常规监管机构之外’，”Atropos Health的首席执行官Brigham Hyde博士在接受采访时表示。“这是一种教育[政府]并影响AI发展的方式，而无需采取如创建新的联邦部门来监管AI这样的步骤。我认为这是一种深思熟虑的方法。”
此外，预计不久将会有监管变化，因为法律对医疗器械的定义未能跟上近期医疗技术的巨大飞跃。FDA数字卓越中心负责人特洛伊·塔兹巴兹（Troy Tazbaz）于去年10月在多伦多举行的AdvaMed医械会议上关于这一主题的小组讨论中提到这一点。
“这个会议是关于不断演变的法规，这其实是一个有趣的说法，因为不幸的是，法规并不会进化，”塔兹巴兹说。
“我们正在使用的法规自1976年以来一直存在——它基本上是为了与我们现在尝试应用的产品非常不同的产品而编写的，”他补充道。“因此，我们的很多创造力都在于思考如何利用我们现有的法定权力来推动其极限？”
根据Hyde的说法，帮助解锁AI在医疗保健领域潜力的监管变化已经稍有延迟。“即使在选举之前，无论结果如何，我们都预计在接下来的一年或18个月内会有该领域的法规出台。我认为这是一件好事；我希望他们能深思熟虑地处理此事，”他说。
在国会，去年12月还见证了众议院两党AI工作组发布了一份长达273页的报告（PDF），其中包含有关该领域负责任发展的建议。
“我们希望这份报告能向国会和美国人民提供关于人工智能优势、复杂性和风险的信息，”工作组主席、加州共和党众议员杰伊·奥伯诺尔特（Jay Obernolte）在一份声明中表示。“报告详细说明了国会议员应遵循的道路，以保护消费者并促进美国在AI领域的投资和创新。”
这包括确保AI在医疗保健中的使用是透明且安全有效的。此外，报告建议研究随着AI工具在患者护理中变得越来越普遍时责任归属问题，并建议旨在简化临床医生工作的工具应得到适当的报销。
“我认为我们处于一个非常令人兴奋的阶段，”Rao说。“我们看到监管机构的关注，以及更广泛的政治领导层也在说，‘嘿，我们需要专门的人才来规划和推进这些下一阶段的工作。’对我来说，这是一个令人兴奋的进步。这是进步。”
“专注于数据质量、数据安全、数据合规性和患者安全——专注于这四个支柱，我们将一切顺利，”Rao说。
(全文结束)
