我们许多人已经使用ChatGPT等生成式人工智能(AI)工具获取健康建议。这些工具提供快速、自信且个性化的回答，体验可能比与人类交谈更为私密。
目前，多家AI公司已经推出了专门的"健康与保健"工具。其中最引人注目的是OpenAI本月早些时候推出的ChatGPT健康服务。ChatGPT健康服务承诺通过允许用户连接医疗记录和健康应用、上传诊断影像并解读检测结果，提供更为个性化的回答。但它是如何真正运作的？是否安全？
AI健康咨询正在蓬勃发展
2024年的数据显示，46%的澳大利亚人最近曾使用过AI工具。
健康查询很受欢迎。根据OpenAI的数据，全球每四位常规ChatGPT用户中就有一人每周提交与健康相关的提示。
我们2024年的研究估计，近十分之一的澳大利亚人在过去六个月内曾向ChatGPT提出健康问题。
这在面临获取可及健康信息挑战的群体中更为普遍，包括：
- 在非英语国家出生的人
- 在家中使用其他语言的人
- 健康素养有限的人群
在那些最近没有使用ChatGPT获取健康信息的人中，39%表示考虑近期使用。
建议的准确性如何？
独立研究一致表明，生成式AI工具有时会提供不安全的健康建议，即使它们可以访问医疗记录。
有多个知名案例显示AI工具提供了不安全的健康建议，包括ChatGPT据称鼓励自杀念头的情况。
最近，《卫报》调查发现有关血液检测结果的建议具有危险性和误导性后，谷歌移除了多个关于健康主题的AI概览——这些概览显示在搜索结果顶部。
这只是他们研究的一个健康提示。可能还有更多我们尚未发现的AI错误建议。
那么，ChatGPT健康服务有什么新特点？
该AI工具拥有几项旨在个性化回答的新功能。
据OpenAI称，用户将能够将其ChatGPT健康服务账户与医疗记录和智能手机应用（如MyFitnessPal）连接。这将允许该工具使用有关诊断、血液检测和监测的个人数据，以及来自用户一般ChatGPT对话的相关上下文。
OpenAI强调信息不会反向流动：ChatGPT健康服务中的对话与一般ChatGPT保持分离，具有更强的安全性和隐私保护。该公司还表示，ChatGPT健康服务数据不会用于训练基础模型。
OpenAI表示已与60个国家（包括澳大利亚）的260多名临床医生合作，为改进ChatGPT健康服务输出质量提供反馈。
理论上，所有这些意味着与一般ChatGPT相比，ChatGPT健康服务可以提供更个性化的回答，并具有更高的隐私性。
但仍然存在风险吗？
是的。OpenAI公开表示，ChatGPT健康服务并非旨在取代医疗护理，也不用于诊断或治疗。
它仍可能出错。即使ChatGPT健康服务可以访问您的健康数据，关于该工具的准确性和安全性，以及它如何很好地总结所使用来源的信息也非常少。
该工具尚未经过独立测试。在澳大利亚，ChatGPT健康服务是否会被视为医疗设备并受到相应监管也不明确。
该工具的回复可能无法反映澳大利亚临床指南、我们的卫生系统和服务，可能无法满足我们重点人群的需求。这些人群包括原住民、来自文化和语言多样化背景的人、残疾人和慢性病患者，以及老年人。
我们尚不清楚ChatGPT健康服务是否能达到澳大利亚医疗记录通常期望的数据隐私和安全标准。
目前，由于MyHealthRecord采用率参差不齐，许多澳大利亚人的医疗记录不完整，这意味着即使您上传了医疗记录，AI也可能无法全面了解您的病史。
目前，OpenAI表示医疗记录和某些应用程序集成仅在美国可用。
那么，使用ChatGPT咨询健康问题的最佳方式是什么？
在我们的研究中，我们与社区成员合作创建了简短的教育材料，帮助人们思考依赖AI获取健康建议所带来的风险，并考虑其他选择。
高风险问题
通常需要临床专业知识回答的健康问题存在更严重的后果风险。这可能包括：
- 了解症状的含义
- 咨询治疗建议
- 解读检测结果
AI回复往往看似合理——而且越来越个性化——但这并不一定意味着它们是正确或安全的。因此，对于这些高风险问题，最佳选择始终是与医疗专业人员交谈。
低风险问题
其他健康问题风险较低。这些往往更为一般性，例如：
- 了解健康状况或治疗选择
- 理解医学术语
- 思考在医疗预约中应提出哪些问题
理想情况下，AI只是您使用的多个信息来源之一。
我还能从哪里获得免费建议？
在澳大利亚，我们有一个免费的24/7全国电话服务，任何人都可以与注册护士讨论症状：1800 MEDICARE（1800 633 422）。
由healthdirect运营的"症状检查器"是另一个公共资助的、基于证据的工具，将帮助您了解下一步行动并与当地服务建立联系。
AI工具将长期存在
目前，我们需要关于当前工具如何工作及其功能限制的清晰、可靠、独立和公开可用的信息。随着工具的发展，这些信息必须保持最新。
专门设计的AI健康工具可以改变人们获取管理健康所需的知识、技能和信心的方式。但这些工具需要与社区和临床医生共同设计，并优先考虑准确性、公平性和透明度。
同样重要的是，要为我们的多元化社区提供知识和技能，以安全地驾驭这项新技术。
朱莉·艾尔获得国家健康与医学研究理事会的资金支持。
克尔斯滕·麦卡弗里获得国家健康与医学研究理事会的资金支持
亚当·邓恩不为任何可能从本文中受益的公司或组织工作、咨询、持有股份或接受资金，除学术任命外，未披露任何相关关系。
【全文结束】
