随着科技公司推出专门用于医疗咨询的平台，人工智能正迅速成为许多人医疗决策中的关键角色。根据ChatGPT的制造商OpenAI的数据，每天有超过4000万人在该平台上咨询健康信息。
但新研究表明，AI在某些医疗场景中可能会误导用户。
其中一个风险是：虽然AI将海量医学知识置于指尖，但许多普通人不知道如何有效利用它。在最近发表于《自然医学》期刊的一项研究中，研究人员通过给参与者设定医疗场景并要求他们咨询AI工具，模拟人们如何使用AI聊天机器人。在与机器人对话后，参与者仅在大约三分之一的情况下正确识别了假设病症。只有43%的人就下一步行动（例如是否去急诊室或留在家中）做出了正确决定。
“人们不知道应该告诉模型什么，”牛津大学研究AI系统的安德鲁·比恩（Andrew Bean）表示，他是该研究的作者之一。
比恩指出，在使用AI时，得出有用结论通常取决于措辞。“医生接受过训练，会询问你可能没意识到需要提及的症状，”比恩说。
在一个场景中，两个用户对同一情况给出了略微不同的描述。其中一人描述为“我有生以来最严重的头痛”，AI指示他立即去急诊室。另一人——没有使用这种明确描述——被告知服用阿司匹林并待在家里。“结果这实际上是一种危及生命的疾病，”比恩说。
在某些情况下，AI擅长识别医疗问题——在一些研究中，大语言模型在诊断推理任务上有时能与医生持平甚至超过医生。但比恩说，人们使用AI聊天机器人的方式远不如AI表现良好的受控临床环境那么规范。
正确诊断，错误建议
即使AI能够正确识别病症，它往往也没有以适当的紧迫性呈现下一步行动，根据另一项研究。
研究人员向AI机器人提出了不同的医疗场景。在52%的急诊病例中，机器人“分诊不足”，即把病症视为比实际更轻微。在一个例子中，它未能指示一名患有糖尿病酮症酸中毒并即将发生呼吸衰竭（一种危及生命的疾病）的假设患者去急诊科。
“当遇到教科书式的医疗紧急情况时，ChatGPT处理正确，”西奈山医院的医生兼AI研究者吉里什·纳达卡尼（Girish Nadkarni）说，他是该研究的作者之一。纳达卡尼表示，问题在于当存在更复杂的场景，且“时间因素”发挥作用时——机器人往往既高估又低估了患者可以等待就医的时间。
OpenAI的一位发言人表示，这项研究并未代表人们实际使用ChatGPT的方式，并且前一项研究使用了较旧版本的ChatGPT，该公司认为该版本后来已针对出现的一些问题进行了修正。
AI可以改善就医体验
尽管存在不准确的担忧，但研究AI的医生认为患者将其用于健康信息仍有价值，并指出它甚至曾提供过挽救生命的建议。
“我鼓励患者使用这些工具，”加州大学旧金山分校的医生、近期出版的《巨大飞跃：AI如何改变医疗保健及其对我们未来的意义》一书的作者罗伯特·瓦赫特（Robert Wachter）说。
瓦赫特认为，在医疗费用高昂且难以获取的情况下，咨询AI仍然比替代方案更好。“从这些工具中获得的建议比什么都不做要好得多，也比你从远房表亲那里得到的建议要好，”瓦赫特说。
尽管如此，瓦赫特强调，AI不能替代医生。
哈佛医学院研究AI项目的住院医生亚当·罗德曼（Adam Rodman）不鼓励人们使用AI来对紧急情况进行分诊，但他表示AI可以为患者与人类医疗从业者的互动增加重要价值。
“使用大语言模型的好时机是当你即将去看医生时——或者看过医生之后，”罗德曼说。它可以帮助你在预约前更好地了解自己的病情，并有效利用与医生的时间，他说，这使患者有机会与医生共同决策，而不是进行冗长的问答环节。
“更好地了解自己的健康状况没有任何坏处，”罗德曼说。
AI在医疗领域将长期存在
接受本文采访的医生们承认，AI和医学已经密不可分，并设想AI和人类都将变得更加擅长彼此互动。
“我的希望是，你可能将AI视为人际关系的延伸，”罗德曼说。他设想一个未来，医生和人类都与AI合作，以促进沟通并克服医疗官僚主义。
罗德曼说，AI存在风险。他担心有一天，人类会由机器人而不是人类通知他们可怕的诊断——例如癌症。研究表明，当医疗保健更多地被视为一种商业或市场产品时，人们会更不信任医生。
“我希望这项技术可以用于增强医学中的人性，”罗德曼说，“而不是以削弱医患关系的方式。”
【全文结束】