尽管企业界有时忙于AI的琐碎应用，但对于AI在医疗保健领域的使用，人们已提出诸多大胆主张。我们被告知，AI将加速诊断过程，帮助研究人员发现新药物，从而成为治愈疾病的重要力量，同时推动医学向更具预测性和预防性的方向发展。
这些将是积极的结果。那么，通往这一承诺更健康未来的道路上存在哪些挑战？
首先，存在政治层面的挑战。自从唐纳德·特朗普在总统选举中获胜以来，全球医疗保健行业面临着潜在的双重打击。卫生部长提名人小罗伯特·F·肯尼迪(Robert F Kennedy Jr)是一位阴谋论者，他不信任医疗专业人士，并质疑疫苗和其他救命治疗的安全性。在他被提名后的几天里，价值数十亿美元的医疗保健领域出现了紧张情绪。
其次，X（原Twitter）、特斯拉和SpaceX的掌舵人埃隆·马斯克(Elon Musk)的身影日益显现，他似乎正在填补总统当选人身边的JD万斯(JD Vance)留下的空缺，并借此暗示规则和法规在某种程度上是反美和反自由的——当然，当他起诉OpenAI时可能不在此列。
但在药品、医疗保健和医疗技术方面，监管恰恰不是障碍，而是保障。总的来说，监管加上安全标准，正是保护公民免受可能造成伤害的产品侵害的关键——在这个背景下，保障(safeguarding)是一个关键概念。
此外，监管和标准通过建立共同基础也促进了互操作性，并使公众相对免受企业过度扩张和侵入——当然，与欧洲和英国相比，美国在这方面的保护较少，因为欧洲和英国的数据保护法律更为严格。
那么，这些与AI有什么关系？医疗保健专业人士如何使用这项技术？上周，英国被迫在美国和欧洲这两个盟友的分歧愿景之间走出一条新路，威斯敏斯特健康论坛(Westminster Health Forum)政策会议就讨论了这些议题。
拉塞尔·皮尔森(Russell Pearson)是英国药品和医疗产品监管局(Medicines and Healthcare Products Regulatory Agency)的AI监管政策和项目负责人。他解释说，并非该行业中AI的所有用途都像检查——并从医学扫描图像中学习——那样显而易见：
"我们正在使用AI来改进我们作为监管机构的流程，并履行我们在社会中的职能。我们还与我们监管的行业（如制药公司和医疗设备制造商）进行了大量合作，使他们能够使用AI来满足监管要求。"
但是当AI本身执行医疗功能时呢？例如，当软件安装在或连接到医疗设备（如MRI扫描仪或监测患者健康的可穿戴设备）时？
他解释道：
"现行法规中有法律定义。它规定，如果任何产品执行所谓的'医疗目的'，则被归类并认定为医疗设备。[...] 有些应用由我们专门监管，有些则在其他地方监管，这引出了保障措施位于何处的问题：它落在哪里？这是联合努力吗？
但医疗保健领域存在一个普遍的误解：人们认为AI不受监管。然而，我们是在将软件作为医疗设备监管的范畴内监管AI的，而软件本身又是在影响一般医疗设备的更广泛立法背景下受到监管的。"
这意味着一些AI应用确实受到这些规则和法规的约束。但他补充道：
"这里的问题更多是关于细微差别：这对AI意味着什么，而不是立法是否完全到位。
目前，英国的医疗设备法规仍与我们现在已分离的旧欧洲体系保持一致。但这也是我们在过去约30年的医疗设备监管框架中一直努力尽可能在全球范围内保持一致的内容。
AI也将适用于这一范畴[针对医疗设备]。"
指导与立法
然而，皮尔森承认，鉴于AI技术对社会产生的复杂且不可预测的影响，国际上正在将AI监管和安全作为独立学科开展工作——更不用说diginomica所指出的，许多供应商过度获取用于训练目的的个人、受版权保护或未经许可的数据的例子。（马斯克对"自由"的愿景包括在未告知用户的情况下，将他们的数据用于训练X的Grok AI。）
皮尔森表示：
"显然，无论是在国内还是国际上，从监管层面、原则层面、指导层面到标准层面，都有大量针对AI的具体工作正在进行。此外，谈论AI时，数据问题也是无法回避的。"
在这种背景下，一个新兴的挑战是复杂性：
"粗略来说，我们有大约100份与医疗设备相关的指导文件，可能更多。其中一些专门针对软件和AI等事项，而另一些则更广泛，针对我们期望所有产品都符合的流程和其他事项。
我们在医疗设备法规方面与国际社会密切合作——国际上还有约40份指导文件，旨在捕捉每个人认为是最佳实践的全球图景。同样，AI领域在那里的发展也非常迅速。
从软件和AI的角度来看，我们正在更新定义。我们还将更新风险分类，以便人们能够对风险有更适度和全球一致的理解。同时，应用程序网络安全要求正从指导文件升级为立法，并得到更新和加强。"
好消息是：许多老旧的医疗设备（如果更换将极其昂贵）从未设计为联网设备。随后他补充道：
"但正如任何在AI领域工作的人所知，这些产品并非一成不变。它们不断适应和更新，可能因各种原因而改变。因此，我们正在将一些内容[纳入指导]，以尝试使这些变化更易于管理，更符合风险水平，以及与这一行业相比诸如移动较慢的硬件产品和植入物所面临的困难。"
所有这些意味着监管机构正在采取他所称的"重指导、轻立法"(guidance heavy, legislative light)方法，使其和其他组织有足够的灵活性来应对市场变化。
但他表示，这也带来了自身的挑战。这些挑战包括：
"人们在解释安全法规以及理解在构建产品并将其引入医疗保健系统——并以安全方式维持其运行——时对他们的期望方面遇到的困难。
因此，我们有一系列指导文件的路线图。这些文件将与立法联系起来，并在AI方向上提供急需的背景信息。
当立法可能没有明确提及AI时，这些指导正是提供细微差别，帮助你理解我们在立法中说'x'时的意思的纽带[此处不指埃隆·马斯克的公司]。"
他解释说，这些包括常见的讨论点，如AI偏见、透明度问题和适应性。
然而，挑战依然存在："指导而非立法"的方法——包括诸如美国AI权利法案等自愿性准则——为任何不道德的供应商提供了一个巨大的灰色地带，使他们可以仅为了自身利益而行动。从OpenAI等公司面临的越来越多的诉讼可以看出，以合乎道德且尊重其他行业利益的方式行动似乎不在某些供应商的路线图上。
皮尔森承认，正如他所说，AI的某些方面正在"使系统紧张"：
"我们需要在工作中更加协作，以便建立一个知识基础。这是一种复杂的技术，但医疗保健本身也很复杂。因此，总的来说，提高产品构建者、购买者和使用者的理解，将有助于简化人们的操作流程，并更快地将更高质量的产品引入系统。"
我的观点
教训是什么？在医疗保健技术中，监管加速了接受和采用——无论是本地还是国际。它消除了互利的障碍，而不是为了卖家的狭隘利益而摧毁这些障碍。
正如皮尔森所言：
"只要有人在保障这项技术的这些方面，我们就应该看到整体质量和安全性的提高。我们只需要通过相互合作来理解彼此的需求。
好想法就是好想法，但重要的是确保每个人都达成共识。争取更大的一致性将有助于我们所有人，包括我们对患者安全的职责。"
【全文结束】
