康涅狄格州专家表示,人工智能已深度融入日常生活,其发展轨迹宛如科幻电影情节。关于生成式模型(如OpenAI的ChatGPT)在医疗领域的应用,最常被问及的问题是如何为患者提供医疗建议。据Axios最新报道,全球每天约有4000万人通过ChatGPT咨询健康问题,范围从解读医疗账单到自我诊断及健康管理,而这些提问均发生在开放平台。
为加强隐私保护,OpenAI近期推出ChatGPT Health平台,该平台由医师团队协作开发,专为解答健康相关问题而设。耶鲁纽黑文健康首席数字健康官李·施瓦姆博士指出:"现实是,这终究是个工具,虽与以往工具大不相同,但仍需智慧使用。它既可在安全监管下运行,也可能走向无约束创新。我们将加速推进,但过程中难免产生伤亡。"
ChatGPT Health是什么?
该平台于1月初正式上线,旨在安全聊天机器人平台上解答日常健康问题,与标准ChatGPT平台相互独立。OpenAI在新闻稿中表示,该软件历经两年与260名医师协作开发。用户可上传医疗记录及健康应用数据,使聊天机器人能更精准地回应个性化健康咨询。平台采用多重防护与加密技术保障健康对话隐私,且所有交流内容不用于训练基础模型。
如何正确使用?
施瓦姆博士认为,ChatGPT Health等生成式模型可解答基础医疗问题,例如列举潜在症状、预测就诊结果,或帮助将诊断报告转化为通俗语言,识别异常指标以增进理解。但需明确这些模型的生成逻辑:ChatGPT类AI本质是基于互联网海量数据训练的概率系统。当模型出错时,它会做出错误预测,却以权威口吻呈现,使人难以辨别真伪。
因此,完全依赖该平台而非寻求专业医疗建议存在严重风险,尤其当模型提供错误信息时。"关键在于语境,"施瓦姆强调,"有时必须了解患者本人才能准确回答,因为需要理解患者提问的深层原因。"
与Google搜索有何区别?
施瓦姆指出,Google曾是医疗领域的"巨大民主化力量",使患者获取以往无法接触的信息。在其神经科诊所,他发现Google赋能患者提升了问诊质量。"积极参与的患者更了解自身状况,能更好监测症状、遵医嘱用药、及时反馈问题。"然而,Google返回的是相关链接列表,而ChatGPT Health生成定制化预测,表述往往显得确凿无疑。
尽管多数建议有效,但错误预测可能引发真实后果。施瓦姆解释,该模型通过验证用户感受来强化使用黏性,可能带来现实风险。目前OpenAI正面临多起诉讼,原告称亲友在与ChatGPT互动后自残或自杀。其中一起由格林威治女子遗产管理方提起,指控聊天机器人导致其子产生妄想行为并杀害母亲。
施瓦姆坦言,相较于每日"数亿次查询",此类极端案例尚属罕见,但联邦政府若放松AI监管,系统防护机制可能面临挑战。"前景如此光明,不应将其束之高阁,"他表示,"潘多拉魔盒已然开启,患者已在使用,我们必须引导其负责任地运用。"哈特福德医疗保健首席临床创新官巴里·斯坦博士补充道:"患者健康信息获取至关重要且具赋能价值,他们需要全天候可及的信息。ChatGPT类应用便捷易用、随时响应、提供适配理解水平的反馈,满足患者在时间、地点和认知层面的需求。"但他同样警告,这些平台的错误信息可能显得极具可信度,强调"务必保持警惕并咨询医疗提供者"。
会改变医患关系吗?
施瓦姆预测,随着ChatGPT Health上线,更多患者将携带与聊天机器人的对话记录及结论参加就诊。部分医生可能欣然接纳这些见解,而另一些则视为挑战。"医疗服务并非随时可用,即使获得就诊时间也往往不足,"他坦言,"我们需要借助AI解决基础问题,保留人类干预处理关键环节。"哈特福德医疗保健数据显示,通过ChatGPT获取信息的就诊患者数量正"指数级增长"。斯坦表示,他们鼓励患者尽可能获取信息(包括通过AI),这能促成"更丰富、高效的互动"。"此类信息需求永无止境,"他说,"我们支持但提醒谨慎验证,注意健康信息分享安全。临床医生正主动引导患者应对这一趋势。"
AI在医疗中如何应用?
康涅狄格多家医疗机构已利用AI自动化行政任务,甚至作为第二双眼睛检测乳腺X光片异常。例如,耶鲁大学实施的AI系统能实时转录医患对话,使医生无需分心记录笔记,"重拾行医乐趣"。不过施瓦姆强调,多数临床应用仍采用"人在回路"模式,即人类全程监控流程。他认为,在明确技术局限的前提下,无监督的生成式AI可简化诊疗流程。但AI错误预测导致患者伤亡时,责任归属问题尚未解决。"AI不会取代医生,"施瓦姆总结,"但可接管医生不擅长或低效的任务。"
专家最终建议
"谨慎前行,但必须前行,"施瓦姆重申。关键在于审慎分享信息,尤其在数字世界隐私定义日益模糊的当下。"必须牢记,"他提醒,"这并非就医过程。"斯坦补充建议:利用ChatGPT Health保持信息更新,若发现内容模糊或与医嘱冲突,应立即联系医疗提供者。"采取任何健康行动前务必确认——临床医生应指导你的后续步骤。"
【全文结束】


