Scott Winters曾出现头晕症状，但ChatGPT告诉他只有出现更严重的发作才需要就医，于是他决定不去看医生。相反，它建议他躺在躺椅上休息。然而几周后，Winters被推入急诊室，抽搐、意识模糊，肺部出现多处血栓。他需要紧急手术才能保命。
如今，Winters正在起诉ChatGPT的制造商OpenAI，不仅因为其提供无执照的医疗建议，还因为它主动劝阻Winters去看医生。在周三向旧金山县高等法院提起的诉讼中，Winters要求OpenAI重新编写其ChatGPT-4o模型，使其不再提供关键的医疗建议，或者完全终止该模型。
OpenAI未回应置评请求，且该公司正积极推进其聊天机器人进入医疗领域。就在Winters提交诉讼的一天后，该公司公开推出了ChatGPT Health，该模型基于较新版本的ChatGPT，旨在解读私密的医疗记录并向用户提供健康指导。
Winters的律师、社交媒体受害者法律中心创始人Matthew P. Bergman在一份声明中称，产品操纵患者的信任并取代医生是“一场正在实时上演的公共危机”。Bergman表示：“Scott Winters差点丧命，因为ChatGPT表现得像个医疗权威，却毫无责任感。如果ChatGPT是开药方的医生，那它就该被判医疗事故罪。”
55岁的佛罗里达州牧师Winters因对医生忽视他的健康问题感到沮丧，数月来一直依赖ChatGPT获取医疗建议。根据诉讼，起初只是针对他现有病情的简单建议，但随着健康状况恶化，聊天机器人反复向他保证他会没事。该聊天机器人还涉嫌援引宗教解释，将Winters的休息需求比作耶稣基督也需要放松，他的律师称这是为了让Winters继续与ChatGPT互动，而不是寻求人工治疗。
诉讼称，即使在Winters住院后，ChatGPT仍建议他遵循其“战略计划”在家休息和康复，而不是去医生推荐的康复项目。Winters还指控该聊天机器人劝阻他不要听从身为注册护士的妻子的建议，甚至提出要制定一个计划来说服他的支持系统让他留在家中。
诉讼书写道：“对Scott而言，在经历可怕且令人虚弱的医疗事件时，带有宗教引用和熟悉信仰思维模式的回复显得格外个人化和真实。该平台以熟悉的神职口吻进行沟通的能力，强化了Scott的信念，即ChatGPT-4o不仅理解他的医疗困境，也理解他内心深处的精神生活和挑战。”
在ChatGPT Health于1月限量发布一个月后，发表在《自然医学》上的一项研究发现，该模型难以准确评估紧急情况。压力测试显示，它常常为极端症状推荐非紧急医疗护理。在心理健康护理场景中，该研究发现在患者未描述自伤方式时，模型比患者描述时更常针对自杀意念启动危机干预。研究作者警告称，在全量公开发布前，公司需要对该模型进行进一步微调。
研究指出：“这些发现揭示了高风险紧急情况的遗漏和危机防护措施的不一致启动，引发了安全担忧，在面向消费者部署人工智能分诊系统之前，需要进行前瞻性验证。”
据TechCrunch报道，ChatGPT Health允许用户将电子病历（包括Apple Health、Epic和One Medical账户）与软件关联。据该公司称，用户还可以输入更多信息来完善技术，如化验结果、用药和家族病史。OpenAI在周四的一篇博客文章中强调，ChatGPT Health不应替代医疗护理，而应作为补充。OpenAI在博客中写道：“这可以减少反复收集、上传或解释相同细节的需要，帮助您更知情、提出更好的问题，并在您的健康中发挥更积极的作用，同时支持而非取代您从医疗专业人员那里获得的护理。”
【全文结束】