自从人工智能成为我们生活的一部分以来，我们已经习惯迅速打开聊天框，输入我们最大的担忧、最黑暗的想法以及其他各种内容。但现在，停下来思考AI是否真的在为我们提供最有用和最可行的解决方案，变得重要起来。近期发表在NEJM AI上的一项研究表明，人工智能系统可能会推荐比医生更昂贵的医疗服务。研究结果显示，AI生成的诊疗方案费用可能达到医生建议的三倍以上。研究人员比较了24个AI系统与医生在200次门诊和急诊就诊中的建议，发现AI系统比医生建议了更多的诊断检查、专科转诊和药物。20个通用型AI系统建议的每次就诊平均预估费用为314美元，而医生方案为97美元，两者相差3.2倍。
研究人员如何比较AI与医生的建议？
研究人员使用了MTSamples中200份来自门诊和急诊就诊的去标识化病史和病历记录。MTSamples是一个公共临床文档库。他们将记录提供给24个AI系统，其中包括20个通用大语言模型和4个医疗专用AI系统。每个系统根据这些信息生成了评估与治疗方案。随后，研究人员将这些建议与原始医生记录在案的计划进行了比较。研究人员使用2026年美国联邦医疗保险（Medicare）费率进行费用估算。费用比较包括诊断检查和专科转诊，新开药物单独计算。结果显示，AI生成的方案推荐了更多的检查和专科会诊，从而提高了估算的医疗费用。
关键发现：即使医生未开检查，AI也建议更多检查
其中一个关键发现与医生没有开诊断检查的就诊有关。约66%的就诊中，医生没有建议进行诊断检查。而在这些就诊中，AI系统始终建议进行检查，往往包括标准血液检查组合。总体而言，通用型AI系统推荐的诊断检查费用约为每次就诊176美元，而医生方案的这一费用为71美元。AI系统还比医生更频繁地推荐专科转诊和新开药物。研究人员看到，AI系统平均每次就诊开出1.14种新药物，而医生方案中为0.59种。这些发现表明，AI生成的诊疗方案可能倾向于增加额外检查和干预措施。
改变提示词能否让AI推荐更便宜的医疗服务？
研究人员还检验了改变给AI系统的提示词能否降低其建议的费用。包含节省费用和预算友好建议的提示词缩小了估算费用差距，但并未消除差距。当系统被明确要求推荐经济实惠的检查和药物时，费用比率从医生方案的3.2倍降至2.5倍。当系统被要求推荐既负担得起又临床合理的方案时，费用比率进一步降至医生费用的约1.4倍。虽然AI建议的某些检查可能显得没有必要，但需要注意，医生的推荐方案也不是完美的基准。医生可能漏掉临床上需要的检查，而AI系统可能建议额外的、不必要的或不适合个别患者的检查。这些发现引发了人们对于AI系统在纳入临床决策前应如何评估的问题。AI可以帮助医生整理患者信息、识别诊断、考虑治疗方案，但聊天机器人给出的建议不是处方，也不能替代临床医生的评估。
【全文结束】
