据CBS新闻周一首次报道,一款人工智能软件未能发现田纳西州一家医院的护士数月来一直在窃取芬太尼。
2025年6月,查塔努加Erlanger Baroness医院的麻醉团队成员注意到一名护士在手术中心工作时说话含糊不清,难以保持清醒,CBS新闻援引田纳西州护理委员会的同意令报道称。该同意令指出,该护士后来未能通过药物测试,并被解除了职务。
据CBS新闻报道,该护士后来承认,他在数月期间,有时甚至是每天,都拿走并滥用手术后剩余的芬太尼。
该医院使用了Sentri7软件,这是一款利用人工智能的药物监控软件,本应比人类更快地检测出缺失的药物。但据报道,Sentri7显然未能在Erlanger医院数月内检测出缺失的药物,也未能注意到其他"本应被标记"的"不一致情况"。
Sentri7的创建者——荷兰科技公司Wolters Kluwer的发言人安德烈·雷贝洛(André Rebelo)拒绝回答CBS新闻关于Erlanger医院发生事件的问题,但表示公司对"我们的软件充满信心"。
雷贝洛在给《每日来电者新闻基金会》的声明中表示:"随着我们继续支持AI在医疗保健中的负责任应用,我们致力于与客户合作,优化他们对技术的使用,同时谨慎支持人机协同决策。我们不会评论个别客户对解决方案的使用,但我们对软件充满信心。"
Erlanger Baroness医院未回应DCNF的置评请求。
CBS新闻报道称,美国医疗机构并不需要披露是否使用此类AI软件或公布任何错误。
约翰霍普金斯医学院神经科医生兼AI研究员大卫·拉斯托尔(David Rastall)告诉CBS新闻:"对患者、护理人员和[医院]系统而言,理想情况是当AI被发现犯有某种错误时,这种情况变得非常透明和公开。"
约翰霍普金斯医院和卫生系统药物安全与质量总监雅各布·史密斯(Jacob Smith)表示,他不理解像Sentri7这样的人工智能软件如何会错过Erlanger医院发生的药物转移事件。
史密斯表示:"我自己从未见过这些技术以这种方式被指责。我不明白你怎么会漏掉它。"
根据医疗保险和医疗补助服务中心的文件,药物转移指的是非法分销或滥用处方药,或将其用于开处方者未打算的用途。Wolters Kluwer表示,估计10-15%的医疗工作者在行业工作期间会滥用药物或酒精。大约10%的医疗专业人员在其职业生涯中的某个阶段会转移阿片类药物或其他物质。
根据政府问责办公室的数据,芬太尼目前是美国药物过量死亡的主要原因。
随着近年来AI技术在美国医疗保健系统中变得更加普及,这份新报告应运而生。专家此前曾表示,AI可以成为癌症检测和分析医疗数据等领域的有用工具。
【全文结束】

