想象一下，你在医生办公室担心某种疾病，而医生转向他的电脑，使用人工智能（AI）进行诊断。这种情况即将成为现实，这可能是件好事，但也伴随着一些陷阱。
正如患者在WebMD上搜索症状并滚动浏览可能的问题列表一样，医生现在也使用Google作为信息来源。据华盛顿大学新闻报道，AI聊天机器人可能是下一个趋势。华盛顿大学研究教授Gary Franklin博士描述了他与Google的Gemini聊天机器人的体验。当Franklin询问Gemini关于某个特定手术的结果时，机器人给出了详细的答案，引用了两篇不存在的医学研究。
Franklin写道：“使用AI聊天机器人提取准确的科学信息或基于证据的指导时，需谨慎。”他建议AI专家开发专门的聊天机器人，仅从经过验证的来源提取信息。
“医生经常使用Google，但他们也依赖于像UpToDate这样的服务，这些服务提供了非常优秀的医学信息和研究摘要。”Franklin说，“大多数医生都没有时间，他们只想快速阅读一些有充分依据的信息。从医生的角度来看，尝试找到真实答案，提高工作效率，更好地协调事情——如果这项技术能有意义地贡献于这些方面，那将是非常棒的。”
Franklin补充道：“我不确定医生会多大程度上使用AI，但多年来，患者一直带着他们在互联网上找到的问题来就诊，比如在WebMD上看到的。AI只是患者行为的下一步，帮助他们处理得到的建议。例如，如果一个患者见到一位过于激进的外科医生，后者建议进行大型手术，患者可以询问AI工具，了解更广泛的文献可能会推荐什么。对此我有一些担忧。”
华盛顿大学信息学院助理教授Lucy Lu Wang也在为此努力。她开发了工具，用于从医学研究论文中提取重要信息，验证科学声明，并使科学图像对盲人和视力低下的读者可访问。
Wang指出，临床医生希望快速查找信息，因为他们工作压力很大，治疗患者的时间有限。“你可以想象，如果我们现有的这些聊天机器人真的擅长搜索信息，并且能够准确引用，它们可能会成为像UpToDate这样的工具的更好替代品。”她说，“因为UpToDate很好，它是人工策划的，但它并不总是包含你可能需要的最详细的信息。”
Wang还强调了这些工具在患者沟通方面的潜在好处。“这些工具还可以帮助临床医生与患者沟通，因为通常没有足够的时间跟进或以患者能理解的方式解释事情。这是临床医生工作的附加部分，在理想情况下，我认为语言模型和这些工具可能会非常有益。”
从患者的角度来看，Wang认为开发帮助患者教育并提高整体健康素养的工具将非常棒，超越WebMD或Google所能提供的。“这些工具可以让患者更多地参与自己的健康和医疗保健。”她说。
Franklin和Wang都认为，AI有潜力改善整个医疗系统的协调性和医生之间的协作。“有一本书叫做《跨越质量鸿沟》，它认为美国医学的主要问题是协调不力。”Franklin说。
Wang补充道，需要解决社会技术问题，例如开发专门支持科学搜索的模型。“事实上，人们正在朝这些方向努力，并展示了良好的初步结果。”她说。“我认为引用问题已经在研究演示案例中得到了克服。例如，如果我们把一个大型语言模型连接到PubMed搜索，并允许它仅引用PubMed索引的文章的结论，那么这些模型实际上非常忠实于从该搜索引擎检索到的引用。但如果你使用Gemini和ChatGPT，它们并不总是连接到这些研究数据库。”
“使用这些工具进行搜索的人不知道这一点。”Franklin指出。
谈到WebMD等资源的影响，Wang说：“在它们存在之前，患者确实很难找到任何信息。当然，与临床医生面对面的时间有限，人们实际上有机会提出这些问题。所以，对于每一个在WebMD上错误自我诊断的患者，可能还有数百名患者找到了快速的答案。我认为这些模型也会类似。它们将有助于填补当前临床护理中资源不足的一些空白。”
(全文结束)
