无论你是否喜欢，消费者已经随时随地在向AI寻求医疗建议了。
为何重要： 这正以一种全新的方式打开获取医疗信息的大门。问题在于，这些建议可能并不总是那么靠谱。
现状如何： OpenAI在一月份公布了一些数据：每天有超过4000万人向ChatGPT咨询健康相关问题，在该工具约8亿的常规用户中，每四人中就有一人每周会提交一次健康相关的提问。
- 关于AI应如何在临床环境中部署、监管和评估的谨慎辩论，往往未能认识到，在直接面向消费者的使用方面，这个“猫”早就从袋子里跑出来了。
- 美国医学会首席执行官John Whyte在接受Axios采访时表示：“人们往往把它当作专家，而不是助手，这种情况太常见了。”
言外之意： 几乎所有人都认同，你不应该用AI来替代你的医生，至少现在还不能。但一个更现实的问题是，当你的医生不在时，或者你根本没有医生时，AI能有多大帮助。
- 前白宫新冠疫情协调员、布朗大学公共卫生学院前院长Ashish Jha说：“在这个国家，我们让获取医疗信息和医疗判断变得如此困难，而ChatGPT让它变得如此容易。”
- “考虑到这些工具比医生方便得多，认为它们必须达到医生的水平，这种想法是荒谬的。”
- 加州大学旧金山分校医学院院长、《巨大飞跃：AI如何改变医疗保健及其对我们未来的意义》一书的作者Bob Wachter说：“我认为存在发生不良事件的风险……它危险吗？我认为现状才是危险的。”
- “关键在于，如果没有它，你会怎么做？”Wachter补充道。
最新动态： 最近发表在《自然》杂志上的一项研究发现，在研究人员进行的一项测试中，ChatGPT对大约一半的医疗紧急情况进行了错误的分诊。
- 领导该公司健康AI团队的Karan Singhal表示，其最新的GPT-5模型在近99%的情况下能正确识别紧急病例。她说，在现实生活中，ChatGPT中的健康对话通常是多轮进行的，模型会在回答前提出后续问题并收集更多背景信息。
我们正在关注的： 各州和联邦政府将对医疗领域的AI设置什么样的新护栏。
- 联邦基金前总裁David Blumenthal说：“在美国，我们不监管信息的可获得性，但可能会出现评级机构，评估不同聊天机器人在不同功能上的可靠性。”
以下是我与专家对话的一些要点：
1. AI似乎在某些方面比其他方面表现更好。 Whyte说，聊天机器人擅长解释化验结果，或者在就诊前帮你列出要问医生的问题。
- 但这并不意味着人们真的在用AI做它擅长的事。
- Jha认为大型语言模型在诊断疾病方面“尚未准备好进入主流”，但他仍然认为人们会用它来寻找自己症状的线索，“因为他们一直在用谷歌诊断疾病，而这比谷歌好用太多了。”
- Jha说：“归根结底，我认为我们对其擅长什么、不擅长什么，还没有一个非常清晰的认识。”
2. AI的输出高度依赖输入。 而普通用户可能不知道正确的输入方法。
- 杜克大学的Monica Agrawal说：“患者提问的方式会导致大型语言模型的回答出现差异。”
- “如果患者提供的信息不完整、带有主观印象，或者在寻求建议时存在误解，那么与医生相比，大型语言模型更有可能强化这些误解。”
3. AI的表述方式可能存在问题。 Jha说：“我担心有些大型语言模型说话时带着一种毫无根据的自信。”
- Agrawal说，模型天生倾向于告诉人们他们想听的话，这也是个问题。“在医生可能会提出异议的地方……我们并没有在模型中看到同样的行为。”
- “如果你说‘我头疼’，我不会说‘哦，我觉得你得了偏头痛’——我会说‘再多说点情况’”，Wachter说，“这些工具天生不会这样做，但我认为未来的面向消费者的工具会做到。”
4. 大多数使用AI的人不具备发现错误的能力。 Wachter说，“专业人士使用这些工具和普通人使用这些工具之间存在鸿沟。”
- 虽然AI对医生非常有用，但普通患者可能缺乏医学知识来判断AI的回答是否适用或看起来有误。
我们正在关注的： 如今的模型正在不断地被重新训练——并且总体上在不断改进。
【全文结束】