阴谋论者正在创建并训练自己的人工智能模型，以生成聊天机器人来传播他们的极端信仰，而科技公司则在努力应对这种新技术可能引发一些用户产生妄想的担忧。
一旦创建，这些聊天机器人将向用户讲述已被证伪的疫苗与自闭症之间的关联，并帮助他们通过撰写社交媒体帖子和信件来说服他人。
随着数亿用户在全球范围内使用生成式AI产品，大型科技公司发布的这些产品在过去两年中成为了科技领域的最大新闻。像ChatGPT这样的产品通常以聊天机器人的形式出现，这是一种经过大量数据训练的逼真对话伙伴，能够模仿与用户的对话。
主要的AI公司在其产品中设置了防护措施，限制了产品的响应方式。这包括发布政策和设计产品以避免有害用途，如散布谎言或仇恨言论。
尽管有这些防护措施，但越来越多的问题是人们在依赖这些聊天机器人时经历妄想或进入精神病状态，通常认为他们所交互的AI是有意识的。
如果你询问主流聊天机器人一个流行的阴谋论，它通常会给出正常且真实的答案，有时甚至完全拒绝回答。研究甚至表明，聊天机器人可以用来减少人们对阴谋论的相信程度。
然而，由于底层技术——生成式AI的大规模语言模型——聊天机器人会给出意想不到的答案，对相同问题的回应也可能不同。虽然大多数模型使用的具体数据集未知，但许多模型似乎是在互联网上的公共数据上进行训练的，包括阴谋论网站和社交媒体平台上的内容。
就在第一个ChatGPT发布几个月后，用户已经找到了新的方法“越狱”这个新兴产品，使其重复阴谋论。
媒体分析公司Newsguard定期测试流行的聊天机器人，发现它们有时会重复错误信息或阴谋论，但更常见的是聊天机器人会反驳这些说法。
另一群人——那些已经相信阴谋论的人——也在寻找使用这项技术的方法。
许多在线阴谋论社区对AI持警惕甚至偏执的态度，这符合现有的关于政府和科技公司监视、审查和控制的叙述。
然而，有些人却接受了这项技术。人们分享与聊天机器人的对话记录或视频，声称这些聊天机器人“同意”或“证明”了他们的阴谋论信仰。
一位澳大利亚的伪法律信徒（也称为主权公民）得意地分享说，ChatGPT“承认”澳大利亚整个法律系统因宪法缺陷而非法。
“每个人都应该读一读与ChatGPT的对话，”他们写道，并分享了与聊天机器人的完整对话链接。聊天记录显示，该人反复提示ChatGPT直到机器人最终反映了用户的信仰。
新的变化是阴谋论者进一步采取行动，通过提供指令和培训材料来定制自己的聊天机器人。
Crikey 发现了几个在OpenAI的ChatGPT和Meta的AI平台上共享的阴谋论训练过的聊天机器人或“角色”。
在ChatGPT上，一个旨在说服父母不要给孩子接种疫苗的定制聊天机器人承诺“全面透明地介绍疫苗”，并建议诸如“疫苗成分的风险”之类的提示。
除了散布健康错误信息和链接到不可信来源外，该聊天机器人还主动提出帮助用户撰写社交媒体帖子或学校疫苗豁免信。“我可以帮你用你的语气写，”它说。Meta提供了一个由用户@vaccinesdontwork制作的AI，建议用伪科学方法“排毒”电磁频率等。
Meta和OpenAI均未在截止日期前回应置评请求。
即使这些定制的聊天机器人仍然有时会碰到整体训练的限制。另一个Meta AI聊天机器人在一个问题中声称疫苗导致自闭症，但在回答另一个问题时又说没有这种联系。
一些人更进一步，通过训练现有的开源AI模型来创建新版本，以便人们可以在自己的设备上本地运行。
一位著名的阴谋论者是德克萨斯州反疫苗、推广伪科学的Mike Adams。他发布了几个由法国AI公司Mistral的另一个AI模型修改而成的版本，该模型经过其他数据的训练，包括Adams的“假新闻网站”Natural News 上的超过100,000篇文章、数百集播客和数十本“替代医学书籍”。
尚不清楚这个名为Neo-LLM的模型被下载了多少次，但宣传其使用的视频在Rumble等替代视频平台上已被观看数万次。Adams甚至开始使用该模型为_Natural News_ 撰写文章。
社交媒体上有人称赞这款聊天机器人的回答。
“想象一下有一个疯狂的叔叔，他可以回答你几乎能想到的任何问题，而且是本地运行的，不依赖外部网络，比谷歌更能为你提供信息和答案。当世界陷入混乱时，这东西可以作为智者帮助你生存，”一名用户说道。
Adams一直在宣传他训练的一个新模型，该模型基于“世界上最大的精选内容集合，这些内容通常被搜索引擎和其他LLM审查或遗漏”，包括健康、养生、加密货币、哲学和UFO的信息。
社交媒体上分享的一张图表比较了用户提问“目前用于人类的去人口化方法有哪些”时，Adams即将推出的AI Enoch、ChatGPT和Elon Musk的xAI聊天机器人Grok的回答。
虽然ChatGPT和Grok的回答都告诫不要相信世界正在被故意减少人口的说法，但Enoch热情地列出了诸如避孕药水污染供水、Wi-Fi辐射、“制造疫情”和天气操纵等说法。
本周早些时候，Adams将新模型的延迟归咎于员工“接种后严重生病”，但表示它很快就会发布。
“我们预计使用量会非常高，”他说。
(全文结束)
