FDA新成立的数字健康咨询委员会（DHAC）上周刚刚举行了第一次会议，但已经将其思考付诸文字。委员会成员在首次11月会议上收到的30页文件中明确指出，确保对配备生成式AI（GenAI）的医疗设备进行全生命周期监控是其关注的重点。以下是根据一些我们希望在现场提问的问题组织的摘录。
为什么整个产品生命周期（TPLC）策略对配备生成式AI的医疗设备的监管至关重要？
FDA长期以来一直致力于TPLC方法，这一方法对于那些在其使用寿命期间迭代速度更快、频率更高的技术来说越来越重要。
“TPLC方法对于未来安全有效的生成式AI医疗设备的管理可能仍然非常重要。”
FDA的TPLC方法如何与机构的AI生命周期模板相关？
一般来说，考虑FDA的AI生命周期对于生成式AI设备——以及更广泛的AI设备——可能是制造商在整个TPLC中管理其设备的一个重要方式。
“此外，AI生命周期可以作为一个有用的模型，帮助确定可能需要新的技术、方法或标准来确保这些新技术在整个TPLC中的适当管理。”
回到基本问题。FDA是如何定义“生成式AI”的？
生成式AI是指一类模仿输入数据结构和特征以生成衍生合成内容的AI模型，包括图像、视频、音频、文本和数字内容。
“生成式AI模型可以分析输入数据并产生上下文适当的输出，这些输出可能并未在其训练数据中明确出现。”
生成式AI与传统AI/机器学习有何相似之处和不同之处？
与其他AI/ML模型一样，生成式AI模型通常是在如此庞大的数据集上开发的，以至于人类开发者在开发过程中通常无法了解数据集的所有内容。
“与用于开发其他AI/ML模型的数据集相比，生成式AI模型开发的数据集可以有意广泛，并且可能最初不是针对特定任务进行调整的。”
为什么生成式AI特别难以监管？
有时，生成式AI处理多样、新颖和复杂任务的能力可能会导致对其输出范围的不确定性。
“当控制不足时，这种不确定性可能会转化为确认设备预期用途范围的困难，从而给FDA对生成式AI设备的监管带来挑战。”
为什么许多生成式AI模型是基础模型这一点很重要？
基础模型是在广泛的数据上训练的，可以广泛应用于多种AI任务。
“如果制造商在具有特定预期用途的产品中使用基础模型或其他生成式AI工具，并且该产品符合医疗器械的定义，则利用基础模型的产品可能成为FDA设备监管的重点。”
如何最好地避免FDA拒绝生成式AI产品？
有时，制造商和开发者需要考虑生成式AI产品的实施可能不利于公共健康。当实施可能导致错误或虚假内容时，就可能出现这种情况。
“对于制造商和开发者来说，考虑生成式AI何时适合或不适合特定预期用途是有帮助的。”
展望未来，FDA指出，所需的性能评估方法将由生成式AI设备的具体预期用途和设计决定，其中某些用途可能需要制定新的性能指标。“像所有设备一样，证据的总体情况——可能包括上市前和上市后的证据——可以支持这些设备在整个TPLC中的安全性和有效性的合理保证。”
(全文结束)
