非专业人士对不准确或不恰当的人工智能（AI）生成的医疗建议的信任增加，可能会导致寻求医疗帮助的个体出现误诊和潜在的有害后果。据《新英格兰医学杂志》上发表的研究结果显示。
研究人员分析了非专业人士如何看待和评估AI生成的医疗回应。
研究人员开展了一项观察性研究，该研究包括300名参与者。他们对以下内容进行了评估：由AI模型生成且被医生标记为高准确性或低准确性的医疗回应，以及在线医疗平台上由医生撰写的医疗回应。
参与者无法有效区分医生的回应和AI生成的回应。个人偏好倾向于AI生成的回应，这些回应被认为显著更完整、令人满意、可信和有效。
“当被告知这些回应是由医生提供时，参与者对高准确性AI生成的回应更加信任；而当回应来源未知时，专家对AI生成的回应评分显著更高。”
参与者发现那些被医生标记为低准确性的AI生成回应同样完整、令人满意、可信和有效，并表示有很高的倾向去寻求不必要的医疗关注并遵循可能有害的AI提供的医疗建议。这种反应比参与者对医生回应的反应更强或至少相当。
认为AI回应比医生回应更准确和全面，这反映了专家和非专家双方的偏见。尽管如此，在传递医疗建议时仍重视医生的参与。
研究人员总结道：“对不准确或不恰当的AI生成医疗建议的过度信任，可能会导致寻求帮助的个体出现误诊和有害后果。” “当被告知这些回应是由医生提供时，参与者对高准确性AI生成的回应更加信任；而当回应来源未知时，专家对AI生成的回应评分显著更高。”
(全文结束)
