一名60岁无精神病史的男性患者因坚信邻居投毒而前往医院急诊科就诊，随后24小时内出现恶化性幻觉并试图逃离医院。医生最终发现该男子长期用工业及实验室用途的无机盐溴化钠替代食盐——他因担忧饮食盐分健康风险，轻信了ChatGPT关于"可用溴化钠替代食盐"的建议。溴化钠会在人体蓄积引发溴中毒，症状包括幻觉、意识模糊和运动失调。
此类案例令伦敦大学学院健康错误信息博士研究员亚历克斯·鲁阿尼（Alex Ruani）对澳大利亚推出的ChatGPT Health平台深感忧虑。目前部分澳大利亚用户已可通过该人工智能平台"安全连接医疗记录和健康应用"以获取"更具针对性的健康建议"，其他用户可加入等候名单。
鲁阿尼表示："ChatGPT Health被宣传为帮助用户理解健康信息与检测结果的工具，并非替代医生。但关键问题在于，对许多用户而言，普通健康信息与医疗建议的边界并不清晰——尤其当回复显得自信且个性化时，即便内容存在误导。"他指出ChatGPT已多次"遗漏关键安全信息，如副作用、禁忌症、过敏警告，以及补充剂、食物或特定疗法的风险"。
"最令人担忧的是，目前缺乏专门针对ChatGPT Health安全性的公开研究，"鲁阿尼强调，"哪些用户提问、数据整合路径或信息源可能导致误导性结果？该平台未被列为医疗器械或诊断工具，因此不存在强制安全管控、风险上报机制、上市后监测或测试数据公示要求。"
美国人工智能公司OpenAI声明称，已与60个国家逾200名医师合作"优化ChatGPT Health模型"，并强调该平台"默认启用强隐私保护，健康对话与其他聊天内容完全隔离，数据经加密处理且仅在用户授权或隐私政策限定情形下共享"。
澳大利亚消费者健康论坛首席执行官伊丽莎白·德夫尼博士（Dr Elizabeth Deveny）指出，高昂的自付医疗费用和漫长的候诊时间正推动民众转向AI服务。她认为该工具对管理慢性病和健康研究确有帮助，多语言功能也能惠及非英语人群。但德夫尼警告："人们可能全盘接受ChatGPT Health的建议，而全球科技巨头的行动速度已远超政府监管——它们正自行制定隐私、透明度与数据收集规则。"
"这并非某家善意运作的小型非营利组织，而是全球最大科技公司之一。当商业平台定义行业规范时，受益者往往是本就拥有资源、教育背景和系统认知的人群，风险却由弱势群体承担。"德夫尼呼吁政府尽快建立清晰监管框架："我们需要明确的防护措施、透明度和消费者教育，使民众能理性选择是否使用AI健康管理。这不是阻止AI发展，而是在错误、偏见和错误信息以难以挽回的速度大规模扩散前采取行动。"
【全文结束】
