美国食品药品监督管理局（FDA）开发的生成式人工智能系统Elsa近日被曝存在严重缺陷。据CNN报道，这项由卫生与公共服务部（HHS）部长小罗伯特·F·肯尼迪力推的AI工具，在药物审批流程中生成虚假医学研究数据。三位FDA现/前任雇员证实，该系统会"自信地编造"不存在的研究成果，这种现象在AI领域被称为"幻觉"。
内部测试显示，当询问特定药物类别获批情况时，Elsa会给出错误答案。尽管系统会在被纠正后"道歉"，但这种机械道歉无法弥补潜在风险。FDA官员Marty Makary透露，该系统部署首四周仅耗资12,000美元，但成本效益背后隐藏着准确性危机。如果依赖其生成的摘要审批新药，可能遗漏20页研究报告中的重大安全警示。
CNN的调查引发对AI监管的深层担忧。当被问及如何确保AI生成摘要的准确性时，技术人员坦言不存在简单验证机制。更令人不安的是，肯尼迪主导的"让美国重获健康"（MAHA）委员会此前已被曝引用7项根本不存在的研究，且存在曲解研究结论的情况。尽管尚无直接证据显示该委员会使用了Elsa系统，但其潜在关联引发公众质疑。
卫生与公共服务部长小罗伯特·F·肯尼迪的争议性政策正在加剧这种担忧。这位公开反疫苗人士不仅推动AI审批，还计划要求所有美国人佩戴健康监测设备。值得注意的是，总统特朗普提名的外科医生候选人Casey Means正是可穿戴健康设备公司Levels的联合创始人，该公司推广的非糖尿病患者葡萄糖监测技术缺乏医学必要性。
FDA发言人William Maloney在回应中承认Elsa可能产生"潜在幻觉"，但将其归为通用大模型共性问题。然而面对CNN的质疑，其回应避重就轻，将批评归咎于"失实报道"，这种态度暴露出FDA在特朗普政府影响下的立场转变风险。随着AI在医疗监管领域的渗透，如何在提高效率与保障安全之间取得平衡，已成为亟待解决的伦理难题。
【全文结束】
