人工智能可以在急诊科超越医生——但当人与机器合作时，情况却出人意料地变得复杂。
德国的医疗政策正面临节约的压力。自然而然地，人们想到了利用人工智能来解决这个问题。OpenAI在这方面已经推出了"ChatGPT Health"，但仅限于欧洲经济区、瑞士和英国以外的地区。
目前，ChatGPT Health可以直接使用——仅排除欧洲经济区、瑞士和英国。这些语言模型真正能做什么？它们已经在哪些地方被使用，未来又将如何发展？
希腊在人工智能应用方面已领先一步
在上个月四月，德尔斐举行的第11届国际经济论坛上，有许多关于人工智能可能应用的讨论会。备受瞩目的聊天机器人成为热议话题。希腊卫生部长阿多尼斯·乔治亚迪斯(Adonis Georgiadis)借此机会介绍了一种看似安全且有趣的人工智能应用。
希腊的电子病历(ePA)系统设计得使患者和医生都能以类似数据库的形式获取所有信息，包括所开药物。希腊实行电子处方的时间比德国更长。
乔治亚迪斯解释说，未来每次开药，包括后续处方，都将进行人工智能支持的检查。AI会检查患者所用的各种药物（由一位或多位医生开具）是否相互兼容。如果不兼容，系统将发出警报。
所有相关人员都将收到通知，因此药房作为药品发放前的最后环节，也可以防止潜在的治疗错误。乔治亚迪斯强调，这只是人工智能未来提高医疗保健效率的众多可能性之一。
德国医疗系统中AI应用可能受阻
在这方面，德国医疗系统中的AI应用可能会受阻。在4月13日由德国科学媒体中心(Science Media Center Germany)主办的新闻发布会上，主持人海伦娜·萨拉蒙(Helena Salamun)提问，聊天机器人能否与电子病历连接，从而减轻医疗系统的负担。
来自勃兰登堡医学院的费利克斯·默伦西彭博士(Dr. Felix Mühlensiepen)不得不让她失望：
"目前，电子病历实际上是一系列PDF文件的集合。根据存储内容的多少，访问具体信息相当困难。因此，如果能够有针对性地搜索，甚至提出问题，肯定会对电子病历数据的应用和使用有所帮助。当然，这一切必须绝对数据安全。我相信，有人正在考虑朝这个方向开发一些东西。"
他继续说，他不知道目前的开发进展如何。有趣的是，他也想到了可以"检查是否已给予特定药物"。
美因茨约翰内斯-古腾堡大学科学传播学junior教授埃琳娜·林克博士(Junior-Prof. Dr. Elena Link)补充道：
"我目前还不知道具体情况，但当然我看到利用这一技术进一步发展电子病历的潜力，并可能迈向电子病历实际全面应用的下一步，如果还能整合新的可能性的话。"
AI聊天机器人能否缓解医生短缺？
这场新闻发布会还包括了伯尔尼应用科技大学的克尔斯汀·德内克教授(Prof. Dr. Kerstin Denecke)，成为一场关于未来可能性、担忧和风险的非常有趣的交流。专家们讨论了患者在无法直接联系医生时可以向聊天机器人咨询的可能性。
林克教授解释说，许多人会使用聊天机器人来更好地解释医学检查结果。她认为，对于健康素养较低的人群，"通过使用AI可能遭受伤害的风险可能更高"。
林克教授推测，聊天机器人更可能被那些先前通过搜索引擎查找健康信息的人使用。正如预期的那样，在新闻发布会上逐渐明确的是，对于提示词写作能力较低的人来说，使用AI比对AI感兴趣的人面临更高的风险。
默伦西彭博士因此确信聊天机器人无法填补医疗系统的空缺。"聊天机器人无法替代医生、护理人员和医疗助理等。但如果做得好，它们可能有助于搭建桥梁。"
最后，当患者的医生带着聊天机器人的初步诊断走进诊所时，医生该如何反应？默伦西彭博士提到了自己的研究，显示医生对此反应不一。有些医生会赞赏患者对自身健康的反思。
但同时，他们也会难以识别和评估信息来源。
作为急诊科的第二意见很有帮助
聊天机器人在其他方面很有帮助。《科学》(Science)杂志的一项最新研究表明，现代语言模型(LLMs)不仅能在诊断方面与医生匹敌，甚至在某些压力情况下还能超越医生。这涉及到急诊科。
在急诊科，每一秒都很重要。正是在这里，患者与医院接触的第一个接触点，人工智能似乎能发挥最大优势。一个美国研究团队通过复杂的案例库以及急诊室的非结构化真实数据，测试了OpenAI-o1系列的能力。
结果：在大多数情况下，AI提供的诊断和治疗计划被认为至少与专业人员提供的同样有帮助。AI模型在分诊情境中表现最佳。当人类医生在时间压力和信息有限的情况下倾向于过早地确定一个疑似诊断时，机器则保持客观。
"语言模型不像人类那样受到疲劳或情绪互动等情境因素的影响，"埃森大学医院的费利克斯·嫩萨教授(Prof. Dr. Felix Nensa)解释道。AI能够更一致地考虑模式和罕见诊断。莱比锡大学的托马斯·诺姆特教授(Prof. Dr. Thomas Neumuth)补充说，AI能够"同时在脑海中保留多种可能的解释"，这使其成为理想的安全网。
乍看矛盾：人机合作反而更差？
尽管研究结果令人印象深刻，但仍存在一个令人惊讶的弱点：在人机合作方面存在问题。先前的研究表明，使用GPT-4作为辅助工具的医生，通常并不比没有辅助工具的医生表现更好。
"这更多地表明这是一个工作流程和信任问题，而不是模型问题。"
费利克斯·嫩萨
专家们称之为"自动化偏见"——要么盲目信任AI，要么忽视其建议。
实践中的障碍：技术、法律和伦理
尽管该研究在方法上被认为是严谨的，但要将其应用到实践中存在重大限制：伦理和法律基础问题必须仔细澄清。此外，人类因素在医生身上也起着作用。
在现实生活中，医生使用眼睛、耳朵以及可能的其他感官。所研究的模型仅处理文本，没有X光片或患者外观。
目前，AI的应用仍处于法律灰色地带。无论是在欧盟还是美国，目前都没有将生成式语言模型作为诊断的医疗产品批准。
错误时的责任问题与患者咨询时一样未得到解决。专家们一致认为：AI不会取代医生，但它可以作为强制性的第二意见，以减少人类错误。
然而，在"算法同事"全面普及之前，研究人员要求在真实条件下进行临床试验。然后，AI必须证明自己能够缩短等待时间、降低死亡率，同时提高患者满意度。
【全文结束】