随着数亿人开始向聊天机器人寻求建议，科技公司推出专门回答健康问题的程序只是时间问题。
1月，OpenAI推出了ChatGPT Health，这款新版聊天机器人据称能分析用户的医疗记录、健康应用和可穿戴设备数据，回答健康与医疗问题。目前该程序处于候补名单状态。竞争对手人工智能公司Anthropic也为部分用户提供了其Claude聊天机器人的类似功能。
两家公司均表示，这些被称为大型语言模型的程序不能替代专业医疗，也不应用于诊断疾病。相反，它们可以总结和解释复杂的检测结果，帮助为就医做准备，或分析隐藏在医疗记录和应用指标中的重要健康趋势。
聊天机器人能比谷歌搜索提供更个性化的信息
一些曾与ChatGPT Health及类似程序合作过的医生和研究人员认为，它们比现状有所改进。
人工智能平台并非完美无缺——它们有时会产生幻觉或提供错误建议——但所生成的信息比患者通过谷歌搜索找到的更可能个性化和具体。
“替代方案往往是什么都没有，或者患者凭感觉行事。”加州大学旧金山分校的医学技术专家Robert Wachter博士说，“所以我认为，如果负责任地使用这些工具，就能获得有用的信息。”
最新聊天机器人的一个优势是，它们能结合用户的医疗史（包括处方、年龄和医生记录）来回答问题。
Wachter等人表示，即使一个人没有授权AI访问其医疗信息，向聊天机器人提供尽可能多的细节也能改善回复质量。
AI不适用于医疗紧急情况
Wachter和其他人强调，有些情况人们应跳过聊天机器人，立即寻求医疗救助。例如呼吸急促、胸痛或剧烈头痛等症状可能表明是医疗紧急情况。
即使在不那么紧急的情况下，患者和医生也应对AI程序保持“一定程度的健康怀疑”，斯坦福大学的Lloyd Minor博士说。
“如果你在讨论一个重大的医疗决策，甚至是一个关于健康的小决定，你永远不应该仅仅依赖从大型语言模型中获得的信息。”Minor说，他是斯坦福大学医学院的院长。
医疗聊天机器人与隐私问题
AI机器人带来的许多好处源于用户分享个人医疗信息。但与AI公司分享的任何信息都不受联邦隐私法的保护，该法律通常管辖敏感的医疗信息——1996年的《健康保险携带和责任法案》（HIPAA）。
HIPAA允许对泄露医疗记录的医生、医院、保险公司或其他医疗服务提供者处以罚款甚至监禁。但该法律不适用于设计聊天机器人的公司。
“当一个人将医疗记录上传到大型语言模型时，这与把它交给一位新医生是非常不同的。”Minor说，“消费者需要明白，隐私标准完全不同。”
OpenAI和Anthropic均表示，用户的健康信息与其他类型的数据分开存储，并受到额外的隐私保护。这些公司不使用健康数据来训练模型。用户必须主动选择分享信息，并可随时断开连接。
测试显示聊天机器人仍会出错
尽管围绕AI的热情高涨，但对这项技术的独立测试仍处于起步阶段。早期研究表明，像ChatGPT这样的程序能通过高水平的医学考试，但在与人类互动时常常犯错。
牛津大学最近一项有1300名参与者参与的研究发现，使用AI聊天机器人研究假设性健康问题的人，并不比使用在线搜索或个人判断的人做出更好的决定。
当AI聊天机器人以全面的书面形式呈现医疗场景时，正确识别潜在疾病的准确率达到95%。
“问题不在这里。”主要作者、牛津互联网研究所的Adam Mahdi博士说，“问题出在与真实参与者的互动过程中。”
Mahdi和他的团队发现了几个沟通问题。人们往往没有向聊天机器人提供正确识别健康问题所需的信息。反过来，AI系统经常同时给出好和坏的信息，用户难以区分这两者。
这项在2024年进行的研究并未使用最新的聊天机器人版本，包括ChatGPT Health等新产品。
第二种AI意见可能有帮助
聊天机器人能够提出后续问题并从用户那里引出关键细节，这是Wachter认为仍有改进空间的一个方面。
“我认为当这些工具在与患者来回交流时变得更像医生时，它们会变得非常好。”Wachter说。
咨询多个聊天机器人——类似于从另一位医生那里获得第二意见——可以给用户对提供的信息更有信心。
“我有时会把信息放入ChatGPT和Gemini中，”Wachter提到谷歌的AI工具时说，“当它们意见一致时，我就更确信那是正确答案。”
【全文结束】