美国食品药品监督管理局（FDA）发布了其对医疗保健和生物医学领域中人工智能（AI）监管的立场，指出监管需要在所有受监管行业、国际组织和美国政府之间进行协调。该机构表示，它监管的产品销往全球市场，因此美国的监管标准必须与国际标准兼容。FDA强调，它正通过领导国际医疗器械监管机构论坛的AI工作组来促进全球AI最佳实践，并在国际协调委员会的工作组内工作，以适应临床试验中的AI应用。
该机构表示，监管者“需要推进灵活机制以跟上生物医学和医疗保健领域AI变化的步伐”，并且在上市前开发中，赞助商之间需要透明度，监管者需要具备使用AI的专业能力。“FDA对新兴技术的创新项目持开放态度，例如软件预认证试点项目。然而，正如该项目所展示的那样，成功开发和实施此类路径可能需要FDA获得新的法定权力。这些变化的数量及其影响也表明，行业和其他外部利益相关者需要加强整个生态系统中AI的评估和质量管理，而不仅仅是FDA的职责范围，”该机构写道。
FDA认为，包括上市后性能监测在内的生命周期管理也是必要的，还需要有独特的机制来审查大语言模型（LLM）及其用途。“生成式AI的应用，如大型语言模型（LLM），由于潜在的不可预见的、突发的后果，提出了独特的挑战；FDA尚未授权任何LLM。然而，许多拟议的医疗保健应用将需要FDA的监督，因为它们旨在用于疾病的诊断、治疗或预防。”FDA写道，“即使是用于总结医疗记录的‘AI秘书’也可能产生幻觉或包括未在就诊中讨论的诊断。LLM的复杂性和输出的多种组合需要除监管机构外的个人和机构进行监督。由于我们不能过度负担个别临床医生的这种监督，因此需要专门工具来更好地评估在使用环境中使用的LLM。”
监管方法还必须平衡整个医疗保健生态系统的需要，从大型公司到初创公司，监管者必须关注患者健康结果，同时权衡AI在医疗系统、开发者和支付者中的财务优化使用。该机构写道，长期以来一直在为AI融入医疗保健和生物医学产品开发做准备，但承认AI带来了独特的挑战和机遇。“AI的发展说明了一个重大的质量和监管难题。由于许多AI模型的安全性和有效性取决于对其运行特性的反复评估，所需的努力规模可能超出任何现行的监管方案。”FDA写道，“生物医学、数字和医疗保健行业的利益在于识别和处理不负责任的行为者，并避免误导性的夸大宣传。受监管行业、学术界和FDA需要开发和优化评估医疗保健和生物医学领域AI持续安全性和有效性的工具。FDA将继续发挥核心作用，重点关注健康结果，但所有相关行业都需要以这种潜在的变革性技术应得的谨慎和严谨对待AI。”
更大趋势
8月1日，《欧盟AI法案》生效，规定了在欧盟内开发、市场投放、实施和使用人工智能的法规。当时，理事会指出，该法案旨在“促进以人为本和值得信赖的人工智能的采用，同时确保高水平的健康、安全和基本权利保护，包括民主、法治和环境保护，以防止欧盟内的AI系统的有害影响，并支持创新。”该法案强调了理事会保护欧盟公民免受AI潜在风险的意图，但也明确表示不会抑制创新。“本法规应支持创新，尊重科学自由，不应削弱研究和开发活动。因此，有必要将其范围排除特定为科学研究和开发目的而开发和投入使用的AI系统和模型，”欧盟监管者写道。
(全文结束)
