更多人向生成式AI询问健康问题,但错误答案可能带来风险More people are asking generative AI questions about their health. But the wrong answer can be risky

环球医讯 / AI与医疗健康来源:medicalxpress.com澳大利亚 - 英语2025-02-21 00:00:00 - 阅读时长4分钟 - 1601字
本文探讨了越来越多的人使用生成式AI工具如ChatGPT来获取健康信息的现象,分析了其潜在的风险,并强调了提高AI健康素养的重要性,确保人们能安全有效地利用这些技术。
生成式AIChatGPT健康问题咨询AI健康素养澳大利亚健康信息获取风险临床建议HealthDirect社区技能提升
更多人向生成式AI询问健康问题,但错误答案可能带来风险

更多人正在转向生成式人工智能(AI)来帮助他们解决日常生活和专业工作中的问题。ChatGPT是最知名且广泛可用的生成式AI工具之一,它免费提供量身定制、看似合理的答案。

生成式AI工具有巨大的潜力帮助人们了解他们的健康状况,但答案并不总是正确的。仅依赖ChatGPT获取健康建议可能存在风险,甚至引起不必要的担忧。

生成式AI仍是一项相对较新的技术,且不断变化。我们的新研究提供了首个关于谁在使用ChatGPT解答健康问题及其目的的澳大利亚数据。研究结果可以帮助人们了解如何安全地使用这项新技术,以及所需的新技能——即“AI健康素养”。

谁使用ChatGPT进行健康咨询?他们问什么?

2024年6月,我们向全国代表性的2000多名澳大利亚人询问他们是否曾使用ChatGPT回答健康问题。

有十分之一(9.9%)的人在2024年上半年曾向ChatGPT提出过健康问题。

平均而言,他们表示“某种程度上”信任ChatGPT(满分5分中得3.1分)。

我们还发现,使用ChatGPT进行健康咨询的比例较高的是那些健康素养较低、出生在非英语国家或在家说另一种语言的人。这表明ChatGPT可能正在帮助那些难以接触传统健康信息的人。

人们最常向ChatGPT提出的健康问题包括:

  • 了解某种健康状况(48%)
  • 查找症状的意义(37%)
  • 询问行动建议(36%)
  • 或理解医学术语(35%)

超过一半(61%)的人至少问过一个通常需要临床建议的问题。我们将这些问题归类为“风险更高”。向ChatGPT询问症状的意义可以给你一个大致的概念,但不能替代临床建议。

出生在非英语国家或在家说另一种语言的人更有可能提出这类问题。

为什么这很重要?

使用生成式AI获取健康信息的人数可能会增加。在我们的研究中,39%尚未使用ChatGPT进行健康咨询的人表示,他们会在未来六个月内考虑这样做。

如果我们考虑到其他生成式AI工具如Google Gemini、Microsoft Copilot和Meta AI,那么使用生成式AI工具获取健康信息的人数会更高。

值得注意的是,在我们的研究中,来自文化和语言多样化社区的人可能更倾向于使用ChatGPT获取健康信息。

如果他们让ChatGPT翻译健康信息,这又增加了另一层复杂性。生成式AI工具在其他语言中的准确性通常较低。

我们需要投资于服务(无论是人工还是机器),以确保讲其他语言不会成为获得高质量健康信息的障碍。

什么是“AI健康素养”?

生成式AI已经到来,并将长期存在,它为使用健康信息的人们带来了机遇和风险。

一方面,这项技术吸引了那些在获取医疗保健和健康信息方面面临重大障碍的人。其主要优势之一是可以即时提供易于理解的健康信息。

最近的一项研究表明,生成式AI工具越来越能够用简单语言回答一般健康问题,尽管它们在复杂健康话题上的准确性较低。

这在疫情期间尤为明显,大多数健康信息的撰写水平对于普通民众来说过于复杂。

另一方面,人们正转向通用型AI工具寻求健康建议。这对于需要临床判断和更全面了解患者的问题来说更为危险。

已有案例研究显示,使用通用型AI工具决定是否去医院就诊存在危险。

还有哪些其他途径可以获取此类信息?

我们需要帮助人们仔细思考他们向AI工具提出的问题类型,并将他们与适当的能够回答这些高风险问题的服务连接起来。

例如,HealthDirect提供了一个全国免费热线,您可以通过电话与注册护士讨论是否需要去医院或看医生。HealthDirect还提供在线SymptomChecker工具,帮助您确定下一步行动。

虽然许多澳大利亚卫生机构正在制定AI政策,但大多数都集中在医疗服务和工作人员如何与这项技术互动上。

我们迫切需要提升社区的AI健康素养技能。随着更多人使用AI工具获取健康信息,这一需求将增长,并随着AI工具的发展而变化。


(全文结束)

大健康
大健康