美国食品药品监督管理局（FDA）领导层在周二发表于《美国医学会杂志》（JAMA）的一篇文章中描述了他们对人工智能（AI）监管的立场。在这篇文章中，FDA专员罗伯特·卡利夫及其两位同事警告说，反复评估AI模型所需的努力“可能超出任何现行的监管方案”。
卫生官员表示，虽然FDA将在评估AI方面发挥关键作用，但该领域的变化速度意味着行业需要“加强AI的评估和质量管理”。自1995年FDA批准首个部分AI驱动的医疗设备以来，涉及AI的设备活动水平近年来有所增加。迄今为止，该机构已授权约1,000种AI驱动的设备，最常见的用途是放射学和心脏病学。
随着这一数字有望继续增长，卡利夫及其FDA同事海德·瓦里奇和特洛伊·塔兹巴兹阐述了该机构对AI监管的看法。文章的一个主题是FDA自身能力的局限性。在关于跟上AI发展步伐的部分，领导们解释了该机构的全产品生命周期方法和软件预认证试点计划如何反映了对适应性监管方案的需求，同时也展示了FDA权力的局限性。
成功开发和实施诸如软件预认证试点计划等路径可能需要FDA获得新的法定权限，领导们表示，“这些变化的数量及其影响”表明行业需要加强AI评估。文章的一个部分讨论了受监管行业的责任。“AI的监管始于赞助者的负责任行为和质量管理，”领导们说。这一立场与所有医疗设备的监管一致，但在应用于AI时提出了特定的挑战。“重要的是评估AI应用是否为患者带来了健康益处，当它们用于提供、管理和治疗患者时，”卡利夫和他的同事们写道。“然而，目前，开发社区和临床社区都尚未完全准备好在整个生命周期内反复、本地评估AI。”
反复评估AI模型的任务也超出了任何现行的监管方案，领导们说。卡利夫、塔兹巴兹和瓦里奇将AI模型的演变描述为“主要的质量和监管难题”，并呼吁受监管行业、学术界和FDA共同开发和优化工具，以评估AI在医疗保健中的持续安全性和有效性。
文章大部分内容涉及AI的一般问题，但有一个部分专门讨论了大型语言模型（LLM）和生成式AI工具（如ChatGPT）带来的问题。FDA尚未授权任何LLM。领导们警告说，使用LLM可能会产生“不可预见的、突发的后果”，因为即使是仅总结医疗记录的模型也可能“产生幻觉或包括未在就诊中讨论的诊断”。卡利夫和他的同事们希望避免给临床医生带来过度的监督责任，因此他们倾向于使用能够在使用情境和环境中更好地评估LLM的工具。
(全文结束)
