华盛顿（美联社）——随着数亿人转向聊天机器人寻求建议，科技公司开始推出专门回答健康问题的程序只是时间问题。今年1月，OpenAI推出了ChatGPT Health，该公司称其新版聊天机器人可以分析用户的医疗记录、健康应用程序和穿戴设备数据，回答健康与医疗问题。目前该程序有等待名单。竞争对手AI公司Anthropic也为其Claude聊天机器人的部分用户提供类似功能。
两家公司都表示，其程序（即大型语言模型）不能替代专业护理，不应被用于诊断疾病。他们声称，聊天机器人可以总结和解释复杂的检测结果，帮助准备就医，或分析隐藏在医疗记录和应用程序指标中的重要健康趋势。
以下是向聊天机器人咨询健康问题前需要考虑的一些事项：
聊天机器人能提供比谷歌搜索更个性化的信息
一些与ChatGPT Health及类似程序有过合作的医生和研究人员认为，与现状相比这是一种改进。AI平台并不完美——它们有时会“幻觉”或提供糟糕的建议——但它们生成的信息比患者通过谷歌搜索可能找到的更具个性化和针对性。
“另一种选择往往是什么都没有，或者患者胡乱应付，”加州大学旧金山分校的医疗技术专家罗伯特·瓦赫特博士说。“所以我认为，如果你负责任地使用这些工具，你能获得有用的信息。”
最新聊天机器人的一个优势是，它们能结合用户的病史（包括处方、年龄和医生笔记）来回答问题。即使你没有向AI开放医疗信息，瓦赫特和其他人也建议向聊天机器人提供尽可能多的细节以改善回答。
如果你出现令人担忧的症状，跳过AI
瓦赫特等人强调，有些情况人们应该跳过聊天机器人，立即就医。呼吸困难、胸痛或剧烈头痛等症状可能是医疗紧急情况。即使在不太紧急的情况下，患者和医生也应该对AI程序持“一定程度的健康怀疑态度”，斯坦福大学的劳埃德·米诺博士说。“如果你在谈论一个重大的医疗决定，甚至是一个关于健康的较小决定，你绝对不应该仅仅依赖从大型语言模型中得到的信息。”米诺说，他是斯坦福医学院的院长。
上传健康数据前考虑隐私
AI机器人带来的许多好处源于用户分享个人医疗信息。但重要的是要明白，与AI公司分享的任何信息都不受通常保护敏感医疗信息的联邦隐私法（即HIPAA）的保护。HIPAA允许对泄露医疗记录的医生、医院、保险公司或其他医疗服务提供者处以罚款甚至监禁，但该法律不适用于设计聊天机器人公司。
“当有人将他们的医疗图表上传到大型语言模型时，这完全不同于将其交给一位新医生，”米诺说。“消费者需要明白，这是完全不同的隐私标准。”OpenAI和Anthropic均表示，用户的健康信息与其他类型数据分开保存，并受到额外的隐私保护。这些公司不使用健康数据来训练模型。用户必须选择同意分享信息，并可随时断开连接。
测试显示聊天机器人会出错
尽管AI备受兴奋，但独立测试仍处于初级阶段。早期研究表明，像ChatGPT这样的程序可以在高级医学考试中取得高分，但在与真人互动时常常出错。牛津大学一项有1300名参与者的研究最近发现，使用AI聊天机器人研究假设健康状况的人，并未比使用在线搜索或个人判断的人做出更好的决定。
当AI聊天机器人面对以全面书面形式呈现的医学场景时，正确识别潜在病因的比例为95%。“那不是问题所在，”牛津互联网研究所的首席作者亚当·马赫迪说。“问题出现在与真实参与者的互动中。”马赫迪和他的团队发现了几个沟通问题。人们往往没有提供必要的信息让聊天机器人正确识别健康问题。相反，AI系统经常同时给出好的和坏的信息，用户难以区分两者。这项2024年进行的研究没有使用最新的聊天机器人版本，包括ChatGPT Health等新产品。
获取第二个AI意见可能有帮助
聊天机器人向用户追问并引出关键细节的能力，是瓦赫特认为有待改进的领域。“我认为，当这些工具在与患者的来回交流中变得更像医生时，它们才会真正变得出色，”瓦赫特说。目前，要更确信获得的信息，一种方法是咨询多个聊天机器人——就像从另一位医生那里获取第二意见。“我有时会把信息输入ChatGPT和Gemini，”瓦赫特提到谷歌的AI工具。“当两者一致时，我会更有信心那是对的。”
美联社健康与科学部门获得了霍华德·休斯医学研究所科学教育部门和罗伯特·伍德·约翰逊基金会的支持。美联社对所有内容全权负责。
【全文结束】