人工智能已在医疗保健领域应用了数十年。一些患者权益团体希望加强对医疗保健行业中人工智能的监管。上个月，美国食品药品监督管理局（FDA）的专家在《美国医学会杂志》（JAMA）上发表了一篇文章，表达了这一观点。为了进一步了解相关情况，我们邀请了该论文的高级作者、FDA专员罗伯特·卡利夫博士（Dr. Robert Califf）。感谢您接受我们的采访。
罗伯特·卡利夫：艾莎，很高兴来到这里。
艾莎·拉斯科：您提到在过去30年中，FDA已经授权了近1000种使用人工智能的医疗设备。能否给我们介绍一下这些设备的具体用途？
罗伯特·卡利夫：我认为可以从几个类别来理解。其中一个主要类别是在影像学方面，如CT扫描或X光片。放射科医生作为人类，其处理能力有限，而计算机不会疲劳，不需要喝咖啡，可以全面分析数据。
但对我们所有人来说，更大的影响领域是所谓的决策支持。无论是消费者在网上查找信息，还是医生或护士面对患者，输入信息后，这些信息会被处理并给出建议。
艾莎·拉斯科：目前FDA如何评估使用人工智能的设备？能否简要概述一下这个过程？
罗伯特·卡利夫：实际上有一套法律对此进行规范。如果是一个嵌入高风险设备的人工智能算法，比如心脏除颤器，当心脏突然停止跳动时，需要电击重启心脏。必须确保该算法正确无误，这需要进行临床研究，通常是在人体上进行。行政管理方面的人工智能应用则不受监管，如管理和财务。
在这两者之间，有一个广泛的决策支持领域。从健身时想了解心率到患有心力衰竭，需要在锻炼时严格控制参数，这些设备的监管程度会有所不同。总体而言，这个领域非常庞大，FDA不可能雇佣足够多的人来独立监管所有设备。因此，非常重要的是让临床社区、医疗系统、专业人员以及您接触的医疗服务提供者积极参与，共同建立一个生态系统，不断评估这些算法。
艾莎·拉斯科：有些倡导者认为，帮助决策支持的产品也应该通过临床试验。您是否同意这一点？您认为这些产品应该通过临床试验吗？
罗伯特·卡利夫：除了是一名心脏病专家外，我还是一名临床试验专家。我从未见过不喜欢的临床试验。当然，对这些算法进行更多的临床试验会更好。但我也指出，这里有一个不同的因素。传统药物或设备一旦生产出来，其特性在整个生命周期内保持不变。而决策支持的人工智能算法每天都在变化。因此，关键在于确保它们在初始阶段是安全的，然后对其进行持续监控。我认为消费者权益团体的观点是有道理的，我们需要确定在上市前对这些算法进行评估的具体标准，以及它们上市后的监管方式。
艾莎·拉斯科：人们可能担心的一个问题是，例如，如果某个AI产品使用账单记录来预测某人的未来医疗需求，AI可能会错误地认为低收入人群的需求少于高收入人群。但实际上，这只是因为他们没有足够的资源获得这些服务。您的审查程序是否考虑到了这些问题，FDA是否有任何见解？
罗伯特·卡利夫：您提出的问题非常重要。我们在这方面有很多见解。您举的例子完全正确，如果AI算法的数据有偏见，输出也会有偏见，这会使现有的不平等更加严重，而目前的不平等已经相当严重。
艾莎·拉斯科：对于那些担心计算机可能会决定他们是否患有某种疾病的人，您有什么看法？
罗伯特·卡利夫：我认为最重要的一点是，对于重要决策，AI应为与您合作的临床医生提供信息，而不是替他们做决定。决定应由与您互动的人类做出，他们能够理解计算机难以捕捉的您的某些维度。
另一方面，正如我在谈话开始时提到的，医生或护士可能会疲劳，早上可能与配偶争吵过，可能会被其他问题困扰。计算机不会疲劳，也不会被环境中的其他事物分散注意力。在我40年的计算机-人类界面研究中，只要规则得当，人机结合总是更好的选择。
艾莎·拉斯科：感谢FDA专员罗伯特·卡利夫博士接受我们的采访。
罗伯特·卡利夫：非常愉快，感谢您给我机会讨论这个问题。
(全文结束)
