想象一下，你正在医生的办公室里担心自己的病情，而医生转向电脑，使用人工智能（AI）进行诊断。我们离这种情况的发生已经不远了，这可能是一件好事，但也伴随着一些陷阱。
正如患者经常浏览WebMD，通过输入症状来查找可能的问题一样，医生现在也会使用Google作为信息来源。华盛顿大学新闻报道，AI机器人可能是下一步。华盛顿大学研究教授Gary Franklin博士描述了他与Google的Gemini聊天机器人的体验。当Franklin向Gemini询问某项特定手术的结果时，该机器人给出了详细的答案，引用了两篇不存在的医学研究。
Franklin写道：“使用AI聊天机器人提取准确的科学信息或基于证据的指导时，需要谨慎。”他建议AI专家开发专门的聊天机器人，只从经过验证的来源提取信息。
一位致力于解决这一问题的专家是Lucy Lu Wang，她是华盛顿大学信息学院的助理教授。Wang开发了工具，可以从医学研究论文中提取重要信息，验证科学主张，并使盲人和视力低下的读者能够访问科学图像。
“医生经常使用Google，但他们也依赖于UpToDate等服务，这些服务提供了非常出色的医学信息和研究摘要。”Franklin说，“大多数医生几乎没有时间，他们只想快速阅读一些有充分文献支持的信息。因此，从医生的角度来看，如果这项技术能够有意义地帮助找到真实答案、提高工作效率或更好地协调工作，那将是极其棒的。”
Franklin补充道：“我不确定医生会多大程度上使用AI，但多年来，患者一直带着从互联网上找到的问题来就诊，比如在WebMD上看到的内容。AI只是患者这种行为的下一步，他们可以获取一些关于如何处理收到的建议的指导。例如，如果患者见到一位过于激进的外科医生，医生建议进行大型手术，患者可以询问AI工具，了解更广泛的文献可能推荐什么。对此我有些担忧。”
Wang呼应了Franklin的观点，指出临床医生希望快速查找信息，因为他们非常忙碌，治疗患者的时间有限。“你可以想象，如果我们现有的聊天机器人在搜索信息方面非常出色，并且能够准确引用信息，那么它们可能会成为像UpToDate这样的工具的更好替代品。”她说，“因为UpToDate很好，它是人工策划的，但并不总是包含你可能寻找的最详细的信息。”
Wang还强调了这些工具在患者沟通方面的潜在好处。“这些工具还可以帮助临床医生与患者的沟通，因为通常没有足够的时间跟进或以患者能够理解的方式解释事情。这是临床医生工作的附加部分，在理想情况下，我认为语言模型和这些工具可以真正有益。”
从患者的角度来看，Wang表示，开发帮助患者教育并提高整体健康素养的工具将会非常棒，这些工具将超越WebMD或Google所能提供的。“这些工具可以让患者更多地参与自己的健康和医疗保健。”
Franklin和Wang都认为，AI有可能改善整个医疗系统的协调和医生之间的协作。“有一本书叫《跨越质量鸿沟》，书中认为美国医学的主要问题是协调不良。”Franklin说。
Wang补充道，需要解决社会技术问题，例如开发专门用于支持科学搜索的模型。“人们确实在朝着这些目标努力，并已展示了初步的良好成果。”她说。“我认为引用问题在研究演示案例中已经被克服。例如，如果我们连接一个大型语言模型到PubMed搜索，并允许它仅基于PubMed索引的文章进行引用，那么模型对引用的忠实度非常高。但是，如果你使用Gemini和ChatGPT，它们并不总是连接到这些研究数据库。”
“问题是，使用这些工具的人并不知道这一点。”Franklin指出。
回顾WebMD等资源的影响，Wang说：“在这些资源出现之前，患者真的很难找到任何信息。当然，与临床医生面对面交流的时间有限，人们实际上有机会提出这些问题。所以，每有一个患者在WebMD上错误地自我诊断，可能还有数百个患者找到了快速的答案。我认为，对于这些模型来说，情况也将类似。它们将有助于填补目前临床护理中的一些资源不足。”
(全文结束)
