一份来自唐纳德·特朗普和罗伯特·F·肯尼迪(RFK)的“让美国再次健康”委员会的关于儿童健康的报告引用了虚假的研究并错误地解读了其他研究,以支持其议程。该报告还包括引文错误,例如在一项研究中错误地标注了作者。
更糟糕的是,据《华盛顿邮报》报道,这份报告似乎是用人工智能撰写的。这一揭露发生在肯尼迪,卫生与公共服务部部长,几周前大肆宣传该部门将广泛使用人工智能之后。
“人工智能革命已经到来,”肯尼迪本月早些时候告诉立法者。他说:“我们非常积极地实施人工智能,”并补充说:“我们从硅谷带来了非常高素质的人才。”肯尼迪承诺将利用人工智能加快药物测试的临床试验,并将其作为一种方式,让人们避免去那些医生短缺地区的急诊室。
“MAHA报告:让我们孩子再次健康”探讨了饮食、技术使用、药物使用等因素对儿童健康的影响。报告认为,儿童健康问题的一个主要后果是大多数儿童无法服兵役,“主要是由于肥胖、体能差和/或心理健康挑战。”报告还指出,儿童服用过多的药物,这与RFK长期以来对疫苗和制药公司的抨击一致。
这份粗制滥造的“研究”质疑了报告的有效性。NOTUS首先在周四指出了该研究的诸多问题,显示有七项被引用的研究实际上并不存在。NOTUS还发现了报告如何解释其来源的问题。
流行病学家凯瑟琳·基斯告诉NOTUS,她并没有参与那份提到她的参考文献。“我们确实进行过这个主题的研究,但没有在JAMA Pediatrics上发表过那篇论文,也没有那个合著者团队或那个标题。”
特别值得注意的是,引文中的问题显示了人工智能使用的特征,《华盛顿邮报》发现。这些问题超出了典型的APA引用格式错误。例如,两个引文中的URL包括“oaicite”,这是OpenAI的引用,据《华盛顿邮报》称,这是“明确的迹象”,表明作者使用了人工智能。
报告还引用了一些不存在的文章。例如,“直接面向消费者的广告和儿童ADHD药物使用增加”听起来像是一篇真实的文章,但实际上它是虚构的。报告引用了一篇精神病学教授罗伯特·芬丁撰写的相关主题文章,但这篇文章并不存在。这是人工智能使用的标志,因为聊天机器人会“幻觉”引用看似真实的但实际不存在的研究。
对于另一篇题为“孩子们应该有多少休息时间”的《美国新闻与世界报道》文章,报告中的两处引用分别标注了不同的作者,但都不是实际撰写该文章的作者。另外两处引用也犯了同样的错误。人工智能聊天机器人常常将真实引用与虚假信息混在一起,通常被称为“幻觉”。
对于一个关于哮喘儿童过度处方的统计数据,报告引用了一篇确实存在的文章,但该文章并未包含该统计数据。引用文章的主要作者是正确的,但共同作者不正确——又是一个错误。
《华盛顿邮报》还发现了一个不再有效的URL。如果人工智能接受的是旧材料的训练,它可能会包含过时的链接。
另一个引文包含了对参考材料的直接引用,这是一个只有不懂引用概念的人或机器人会犯的错误。
周五,NOTUS发现报告已被更新,添加了新的错误。自《华盛顿邮报》周五晚上的报道以来,白宫似乎再次编辑了报告,删除了一些文章引用的证据。例如,“oaicite”已不再出现在报告中。
卫生与公共服务部发言人告诉《华盛顿邮报》,“一些小的引文和格式错误已经修正,但MAHA报告的实质内容保持不变——联邦政府对困扰我国儿童的慢性疾病流行病的历史性和变革性评估。”
(全文结束)


