医疗聊天机器人已到来:AI医生有哪些副作用Medical chatbots are here: What are the side-effects of Doctor AI? | The Star

环球医讯 / AI与医疗健康来源:www.thestar.com.my马来西亚 - 英语2026-07-22 15:43:45 - 阅读时长5分钟 - 2053字
德国海德堡大学医院和德累斯顿工业大学的研究人员与谷歌团队合作开发了两款医疗AI模型MIRA和AMIE,它们能通过聊天收集患者病史、安排诊断测试并制定治疗方案。尽管测试显示这些AI在某些情况下比人类医生更精准,但专家警告它们尚未准备好用于实际临床环境,可能存在推荐不完全可靠、责任归属不明确等问题,并可能导致医患沟通中的人文关怀减弱,同时需警惕对非欧洲科技公司的过度依赖风险。
医疗聊天机器人AI医生数字健康临床决策患者护理医患对话医疗AI模型临床实践医疗AI副作用
医疗聊天机器人已到来:AI医生有哪些副作用

海德堡:"请问您咳嗽有多久了?是否伴有发烧、呼吸困难或胸痛等其他症状?"听起来像是医生典型问诊的问题,这次却是由人工智能(AI)系统提出的。

例如,AI长期以来已能够检测X光片上的肿瘤。但如今技术发展已进步到可以与患者进行对话的程度。

研究人员主要来自德国海德堡大学医院(Heidelberg University Hospital)和德累斯顿工业大学(Dresden University of Technology)的Else Kröner Fresenius数字健康中心,他们与谷歌团队合作,开发了两款用于患者管理的独立AI模型,涵盖从诊断到治疗建议的全过程。这两款模型目前正发表在科学期刊《自然》(Nature)上。

这两款模型——MIRA(医疗推理与行动智能,Medical Intelligence for Reasoning and Action)和AMIE(清晰医疗智能探索者,Articulate Medical Intelligence Explorer)——在医疗领域的应用范围远超大多数现有AI工具。

与许多仅限于特定任务(如检测X光片上的肿瘤)的医疗AI应用不同,这两款模型能够通过聊天独立收集患者病史、安排微生物学等诊断测试,并制定包括特定药物处方在内的治疗方案。

它们还考虑了临床指南、专业文献以及患者可能服用的药物之间的相互作用等因素。

据研究作者称,谷歌的系统提供了极其详细、可操作的指令,而非模糊的建议。作者表示,在测试中,两款模型在某些情况下被证明比人类医生更准确、更精确。

谷歌团队指出,医疗行业面临人员短缺以及多次就诊过程中治疗连续性不足等问题。来自海德堡和德累斯顿的专家将这些模型描述为医生的"副驾驶",使医生有更多时间专注于患者护理。

《自然》杂志对临床患者管理的广泛任务表示:"如果AI代理能够执行此类任务,实现有效的管理推理,它们可能有助于医生处理常规任务,并可能解决世界某些地区医生短缺的问题。"

尚未准备好用于实际应用

两组研究人员均表示,他们的模型尚未准备好用于实际应用。两者都使用基于真实数据的AI生成患者模拟进行测试——但这些模拟存在缺陷。虚拟患者的反应与带着急性症状来到医院的真实患者大不相同。

研究人员表示,MIRA通常会建议适当、基于证据的治疗。然而,其建议并非100%可靠。

"结果展示了AI代理在医学领域的潜力,"德累斯顿大学医院医疗主任Uwe Platzbecker表示。他说,进一步发展的关键问题是"我们如何安全、透明地将此类创新整合到临床实践中,以造福患者。"

伯尔尼应用科学大学(Bern University of Applied Sciences)的研究员Kerstin Denecke指出了当前的障碍,包括医疗保健领域的数据状态、监管审批流程、责任归属不明确以及需要对这些系统风险进行代表性研究。

这位专注于以患者为中心的数字健康专家表示:"临床决策需要的不仅仅是遵循指南。"她说,需要的是对每位患者个人情况的理解。

德国波茨坦大学(University of Potsdam)医学伦理学教授Robert Ranisch将MIRA研究描述为"一项令人兴奋且方法设计良好的贡献"。

潜力巨大但担忧并存

然而,他表示该研究是在实验室条件下测试AI代理的表现。与许多AI研究一样,关键问题在于该技术是否也能在日常临床实践中发挥作用。"这正是许多有前景的AI系统迄今为止未能达到的地方,"他说。他补充说,一旦面对真实患者、临床医生、不完整的数据和不同的IT系统,这些系统很快就会达到极限。

柏林工业大学(Berlin University of Technology)医疗保健管理部门负责人Reinhard Busse表示,AI代理以结构化方式映射临床流程以及诊断和治疗决策的能力本身并不意味着在实践中会带来更好的护理或成本节约。

与此同时,德国医疗官员也对部署基于AI的辅助系统时可能丧失人文关怀表示担忧。

德国联邦医学会(Germany's Federal Medical Association)此前表示,研究人员需要审视人际交往和情感方面是否被推至背景——例如,当人类沟通被技术支持的语音辅助系统(如聊天机器人)支持甚至取代时。

德国患者保护基金会(German Patient Protection Foundation)负责人Eugen Brysch也强调,尽管AI提供了时间节省,"医患对话在未来仍将继续对患者发挥不可或缺的作用。"他表示,这对老年人尤其重要。

同时,他警告要警惕对非欧洲公司的日益依赖。"分析和通信的未来可持续性不能掌握在科技亿万富翁及其政治纠葛的手中。"——德意志通讯社(dpa)

【全文结束】