堪萨斯大学的研究人员表示，这一发现令人惊讶，他们对聊天机器人生成的错误信息感到担忧。这项研究由堪萨斯大学的博士生Calissa Leslie-Miller领导，研究结果已于本月早些时候发表在《儿科心理学杂志》上。
Leslie-Miller在一份声明中说：“当我们开始这项研究时，正值ChatGPT刚刚推出，我们担心父母会如何使用这种新的、便捷的方法来获取孩子的健康信息。父母经常上网寻求建议，因此我们想了解使用ChatGPT的情况以及我们应该关注的问题。”
为了得出这些结论，Leslie-Miller及其同事对116名年龄在18至65岁之间的父母进行了研究。参与者被提供了与健康相关的内容，这些内容由医疗保健专业人士和OpenAI的聊天机器人ChatGPT生成。他们被告知不要知道这些内容的作者是谁或是什么。参与者被要求根据五个标准对这些内容进行评分：感知道德、可信度、专业知识、准确性和他们依赖这些信息的可能性。
在许多情况下，父母无法区分哪些内容是由ChatGPT生成的，哪些是由专家生成的。当评分有显著差异时，ChatGPT的内容被认为比专家生成的内容更可信、更准确和更可靠。
“这一结果令我们惊讶，尤其是在ChatGPT刚推出不久时进行的这项研究，”Leslie-Miller说，“我们开始看到，人工智能正在以不那么明显的方式融入人们的生活，人们甚至可能无法辨别自己阅读的是AI生成的内容还是专家内容。”
ChatGPT于2022年11月发布。本周四，OpenAI宣布在其聊天框中添加了一个搜索引擎，称为ChatGPT搜索。目前，ChatGPT拥有超过2.5亿活跃月用户。
尽管ChatGPT在许多场景中表现良好，可能是一个有益的工具，但该AI模型也可能生成错误的信息。它并不是专家。用户需要谨慎使用。
“在研究过程中，一些早期版本的AI输出包含了错误信息，”Leslie-Miller说，“这令人担忧，因为众所周知，像ChatGPT这样的AI工具容易出现‘幻觉’——即由于系统缺乏足够的上下文而产生的错误。”
“在儿童健康领域，后果可能非常严重，因此我们必须解决这个问题，”她补充道，“我们担心人们可能会越来越多地依赖AI获取健康建议，而没有适当的专家监督。”
(全文结束)
