AI尚未准备好接管急诊室，一项新研究指出。
周二（2024年10月8日），HealthDay News报道，一项新的研究表明，AI目前还不能管理医院的急诊室。研究人员在《自然通讯》杂志上报告称，ChatGPT可能会为一些患者要求不必要的X光检查和抗生素处方，并收治那些实际上不需要住院治疗的患者。
“这是给临床医生的一个重要信息，不要盲目信任这些模型，”主要研究员Chris Williams说道，他是加州大学旧金山分校的博士后学者。“ChatGPT可以回答医学考试问题和帮助撰写临床笔记，但它目前并不适合需要多种考虑的情况，如急诊科的情况，”Williams在UCSF的一份新闻稿中补充道。
在这项新研究中，研究人员让ChatGPT AI模型提供类似于急诊医生在初步检查患者后会做出的建议。研究团队使用了从超过251,000次急诊访问记录中提取的1,000次之前的急诊访问数据进行测试。
结果显示，ChatGPT总体上倾向于推荐比实际所需更多的服务。ChatGPT-4模型的准确性比人类医生低8%，而ChatGPT-3.5的准确性则低24%。
Williams表示，这种过度处方的倾向可能是因为AI模型是在互联网上训练的。虽然合法的医疗建议网站并不是为了回答紧急医疗问题而设计的，而是将患者引导至可以提供帮助的医生那里。“这些模型几乎被调校成说‘寻求医疗建议’，这在公众安全的一般视角下是正确的，但在急诊室环境中，过于谨慎并不总是合适的，因为不必要的干预可能会对患者造成伤害，浪费资源，并导致患者成本增加，”Williams说道。
为了在急诊室中更加有用，AI模型需要更好的框架，由能够平衡捕捉严重疾病与避免不必要的检查和治疗的设计者构建。“没有完美的解决方案，”他说道，“但了解像ChatGPT这样的模型有这些倾向，我们有责任思考它们在临床实践中应该如何表现。”
(全文结束)
