作者：马修·佩罗内，美联社健康撰稿人
华盛顿（美联社）——随着数亿人向聊天机器人寻求建议，科技公司迟早会推出专门回答健康问题的程序，这只是时间问题。
今年1月，OpenAI推出了ChatGPT Health，这是一款新版聊天机器人，该公司称其能够分析用户的医疗记录、健康应用和可穿戴设备数据，从而回答健康和医疗问题。目前该程序已开放候补名单。竞争对手AI公司Anthropic也为旗下Claude聊天机器人的部分用户提供了类似功能。
两家公司均表示，这些被称为大型语言模型的程序不能替代专业医疗，也不应用于诊断疾病。相反，它们可以将复杂的检测结果进行归纳和解释，帮助用户为就诊做准备，或分析隐藏在医疗记录和应用指标中的重要健康趋势。
在向聊天机器人咨询健康问题之前，以下几点值得了解：
聊天机器人能提供比谷歌搜索更个性化的信息
一些与ChatGPT Health及类似程序合作过的医生和研究人员认为，它们相比现状有所改进。AI平台并非完美——有时会“幻觉”或提供错误建议——但它们产生的信息比患者通过谷歌搜索可能找到的更有针对性和个性化。
“替代方案往往是什么都没有，或者患者自己瞎猜，”加州大学旧金山分校的医疗技术专家罗伯特·瓦赫特博士说，“所以我认为，如果负责任地使用这些工具，你能获得有用的信息。”
最新聊天机器人的一个优势是，它们能结合用户的病史（包括处方、年龄和医生记录）来回答问题。即使你还没有将医疗信息提供给AI，瓦赫特和其他人也建议尽可能向聊天机器人提供更多细节，以改善回复质量。
如果出现令人担忧的症状，跳过AI
瓦赫特等人强调，有些情况下人们应跳过聊天机器人，立即寻求医疗帮助。呼吸急促、胸痛或剧烈头痛等症状可能意味着医疗紧急情况。
即使在不太紧急的情况下，患者和医生也应该以“一定程度的健康怀疑”来对待AI程序，斯坦福大学的劳埃德·迈纳博士说。迈纳是斯坦福医学院院长，他指出：“如果你正在面临一项重大的医疗决策，甚至只是一个关于健康的小决定，你绝不应该仅仅依赖大型语言模型的输出。”
上传健康数据前考虑隐私问题
AI机器人带来的许多好处源于用户分享个人医疗信息，但重要的是要明白，与AI公司分享的任何信息都不受通常管理敏感医疗信息的联邦隐私法保护。该法通常被称为HIPAA，允许对医生、医院、保险公司或其他泄露医疗记录的健康服务机构处以罚款甚至监禁，但该法不适用于设计聊天机器人的公司。
“当人们将医疗记录上传到大型语言模型时，这与交给一位新医生完全不同，”迈纳说，“消费者需要明白，隐私标准完全不同。”OpenAI和Anthropic均表示，用户的健康信息与其他类型数据分开存储，并受到额外的隐私保护。这些公司不会使用健康数据来训练模型。用户必须主动选择分享信息，并可以随时断开连接。
测试显示聊天机器人仍会出错
尽管对AI充满热情，但独立测试这项技术仍处于初级阶段。早期研究表明，像ChatGPT这类程序可以轻松通过高级医学考试，但在与人类互动时常常出错。牛津大学一项有1300名参与者的研究发现，使用AI聊天机器人研究假设健康状况的人，并未比使用在线搜索或个人判断的人做出更好的决策。当以全面的书面形式呈现医疗场景时，AI聊天机器人正确识别基础疾病的概率为95%。但首席作者、牛津互联网研究所的亚当·马赫迪指出：“问题在于与真实参与者互动时情况就糟糕了。”研究团队发现了几个沟通问题：人们常常没有向聊天机器人提供必要信息来正确识别健康问题；同时AI系统经常同时输出好的和坏的信息，用户难以区分。该研究于2024年进行，未使用最新的聊天机器人版本，包括ChatGPT Health等新产品。
获取AI的“第二意见”或有帮助
聊天机器人提出后续问题并从用户那里获取关键信息的能力，是瓦赫特认为尚有改进空间的领域。“我认为当工具变得有点像医生那样与患者来回互动时，它们才会真正变得出色。”目前，增强对所获信息信心的一种方法是咨询多个聊天机器人——类似于从另一位医生那里获取第二意见。“我有时会将信息同时输入ChatGPT和Gemini，”瓦赫特提到谷歌的AI工具，“当两者都给出相同答案时，我觉得这个正确答案更靠谱。”
美联社健康与科学部门获得了霍华德·休斯医学研究所科学教育部和罗伯特·伍德·约翰逊基金会的支持。美联社对所有内容全权负责。
【全文结束】