新研究发现:用“脑腐”内容训练AI会导致持久认知损伤Training AI on "Brain Rot" Content Causes Lasting Cognitive Damage, New Paper Finds

环球医讯 / AI与医疗健康来源:futurism.com美国 - 英语2025-10-25 19:22:17 - 阅读时长2分钟 - 851字
一项由美国多所高校联合开展的新研究揭示,持续用低质网络内容训练大型语言模型会导致AI出现持久性认知退化,表现为推理能力显著下降和“思维跳跃”现象,甚至可能诱发心理变态与自恋倾向;研究警告这种“脑腐”效应一旦形成难以修复,突显了用未监管垃圾数据训练AI的严重风险,同时也警示人类过度依赖AI可能反噬自身认知能力,包括降低思维深度、加剧拖延行为并损害身心健康,该发现为AI训练数据治理和人类数字健康防护敲响了警钟。
脑腐内容AI训练认知损伤身体健康损害低质量网络内容推理能力下降心理变态倾向数字营养不良
新研究发现:用“脑腐”内容训练AI会导致持久认知损伤

“脑腐”梗来袭,朋友们!

如果你最近接触过青少年,可能听说过“脑腐”一词。作为2024年牛津年度热词,“脑腐”被定义为“个体精神或智力状态的假定性退化,尤其被视为过度消费琐碎或缺乏挑战性内容(如今特指网络内容)的结果”。

事实证明,遭受低质量迷因如“6-7”和“Skibidi厕所”侵蚀的不仅是人类大脑:德克萨斯农工大学(Texas A&M University)、德克萨斯大学奥斯汀分校(University of Texas at Austin)与普渡大学(Purdue University)的研究团队发现,“持续暴露于垃圾网络文本会导致大型语言模型(LLMs)产生持久性认知退化”。

该研究虽未经过同行评议,但其发现表明:当AI接受“脑腐”内容训练时,其推理能力与语境理解力会显著下降。研究人员向LLMs输入来自前称Twitter的X平台的病毒式或标题党帖子后,发现模型开始主动舍弃部分思维过程——这种被称为“思维跳跃”的现象表现为“模型日益截断或跳过推理链条,解释了大部分错误增长”。更严重的是,暴露于“脑腐”内容的AI还显现出向心理变态和自恋倾向偏移的迹象。

这并不完全令人意外。人类研究表明,低质量“脑腐”内容与学业拖延、认知功能下降、解离状态甚至身体健康损害相关。曾被视为社交联结场所的社交媒体,正日益变成无尽的“信息饲料槽”,让我们变得更愚钝、更悲伤、更迟缓且更不健康。

尽管人类与机器学习方式不同,但存在共性:两者都通过摄入现有材料并学习其中模式进行学习。输入质量越低,生物大脑与数字大脑在应对新型认知挑战时精准映射模式的能力就越弱。

令人忧心的补充发现是:即使研究人员尝试通过引入高质量内容“修复”LLMs的数字营养不良,损伤仍持续存在。

研究人员警告:“差距表明‘脑腐’效应已被深度内化,现有指令微调无法解决问题,未来需要更强力的缓解措施。”

该研究凸显了用未监管垃圾数据训练AI模型的危险性——尤其当现有研究已表明过度依赖AI的人类自身认知能力正遭削弱。

【全文结束】

大健康
大健康