UB的生物医学信息学系主任彼得·埃尔金博士（Peter Elkin）受邀担任FDA数字健康咨询委员会成员。埃尔金博士是雅各布斯医学院和生物医学科学学院的教授兼系主任，他在该委员会中与其他约十几位学者一起分享了他们的观点。
埃尔金博士于2019年首次向FDA介绍了AI技术，当时他进行了有关AI设备的上市前审批和上市后监控的演讲。他强调了这些设备的学习能力及其改进潜力的重要性。“我那时就说我们需要开始以不同的方式思考AI，”埃尔金博士说，“AI设备不再是简单的工具；现在它们是护理的合作伙伴。”
AI设备正在医院和门诊环境中各个层面被广泛采用，从电子病历和诊断成像到精准医疗和机器人手术。因此，最近会议的主要焦点是探讨FDA如何进行生成式AI工具的上市前审批和上市后监控。
埃尔金博士在会议上指出，FDA应发布关于生成式AI设备营销的指导方针，并要求制造商在模型卡片中纳入上市前审批数据。这些模型卡片类似于食品包装上的营养标签，将为临床医生提供他们需要了解的关键信息。“要判断一个AI设备是否适用于您的患者，您需要知道很多信息，”埃尔金博士说，“包括设备在测试中的预测准确性、错误率、训练数据集的人群特征以及设备性能的任何偏见。例如，它在非洲裔美国人中的表现是否与白人一样好？”
会议的一个目标是预见到可能的AI设备问题，如设备在未经过训练的人群中使用或用于未经验证的目的。目前，临床医生没有义务告知患者他们正在使用AI设备，尽管有些人认为这是一个好主意。
对于患者如何与AI互动，埃尔金博士表示，今天的AI让他想起了互联网和“谷歌医生”现象对医疗保健带来的巨大变化。“那时，患者会带着从互联网上打印的材料来就诊，其中一些可能与他们相关，而另一些则不相关，”埃尔金博士说。他承认，有些医生对此并不满意，但他说：“任何时候患者积极参与自己的护理并希望做正确的事情，这都有助于我更好地照顾他们。但我建议他们：‘问我，不要自己担心，因为你不知道找到的信息是否适用于你。’”
埃尔金博士的研究集中在通过添加形式化语义推理和提高其在循证医学中所需的数学能力来改进人工智能和大型语言模型。他创建了一个新的大型语言模型管道，作为学生和临床医生的综合医疗资源。
(全文结束)
