美国食品药品监督管理局（FDA）新推出的人工智能工具——被美国卫生与公共服务部长小罗伯特·F·肯尼迪（Robert F. Kennedy, Jr.）誉为缩短药物审批革命性解决方案的Elsa——最初导致了更多的“幻觉”而不是解决方案。
这款名为Elsa的人工智能聊天机器人被引入以帮助FDA员工处理诸如会议记录和电子邮件等日常任务，同时通过整理重要的申请数据支持加快药物和设备审批的周转时间。然而，据向美国有线电视新闻网（CNN）匿名透露的FDA内部人士表示，这款聊天机器人存在大量“幻觉”，经常伪造医学研究或误解重要数据。工作人员已将其搁置，消息来源称它无法用于审查，也无法访问员工承诺获得的关键内部文件。
一位FDA员工告诉CNN：“它自信地产生幻觉。”消息来源称，该工具经常提供有关FDA研究领域、药品标签的错误答案，并且无法链接到来自外部医学期刊的第三方引文。
尽管最初声称该工具已经整合到临床审查协议中，但FDA专员马蒂·马卡里（Marty Makary）告诉CNN，该工具仅用于“组织职责”，并非员工必须使用。FDA的人工智能主管也承认该工具存在产生“幻觉”的风险，这与其他大语言模型（LLM）具有相同的风险。双方均表示对其出现错误并不感到惊讶，并称需要进一步测试和培训。
但并非所有大语言模型的任务都是批准救命的药物。
该机构于6月宣布了这一新的代理工具，美国食品药品监督管理局生物制品评价与研究中心（CBER）主任维奈·普拉萨德（Vinay Prasad）和马卡里在一篇配套的《美国医学会杂志》（JAMA）文章中写道，人工智能创新是该机构的首要任务。该工具旨在审查设备和药物申请，被宣传为解决漫长且经常受到批评的药物审批周期的解决方案，此前FDA推出了人工智能辅助科学审查试点项目。
特朗普政府推动各政府机构加速实施“美国优先”的人工智能议程，包括最近发布的联邦指导，旨在建立由FDA支持的人工智能卓越中心来测试和部署新的人工智能工具，这在政府最新公布的《人工智能行动计划》中有所宣布。许多人担心这种激进的推动和去监管化努力忽视了对新技术的必要监督。
该行动计划中写道：“美国许多最关键的行业，例如医疗保健行业，由于各种因素，包括对技术的不信任或缺乏理解、复杂的监管环境以及缺乏明确的治理和风险缓解标准，因此在采用人工智能方面进展缓慢。协调的联邦努力将有助于在美国工业界建立一种积极的‘先尝试’人工智能文化。”
【全文结束】
