在过去几个月里，BBC一直在探索一个黑暗、隐秘的世界——一个最糟糕、最恐怖、最令人痛苦、许多情况下甚至是非法的在线内容最终汇聚的地方。斩首、大规模屠杀、儿童虐待、仇恨言论——所有这些内容最终都会出现在全球内容审核员的收件箱中。
你很少能看到或听到他们的声音，但这些人负责审查并删除被其他用户举报或由技术工具自动标记的内容。随着在线安全问题日益突出，科技公司面临着更大的压力，要求迅速移除有害材料。尽管大量研究和投资涌入技术解决方案，但最终，目前仍主要是人类审核员拥有最终决定权。
审核员通常受雇于第三方公司，但他们处理的是直接发布到大型社交网络（如Instagram、TikTok和Facebook）上的内容。审核员遍布世界各地，我在制作《审核员》系列节目时采访的人大多生活在东非，他们现在已经离开了这个行业。他们的故事令人痛心，有些内容太过残酷，无法播出。有时我和制作人Tom Woolfenden录制完一段后，只能坐在那里沉默不语。
“如果你拿起手机打开TikTok，你会看到很多活动，跳舞，你知道的，快乐的事情，”曾在内罗毕担任TikTok内容审核员的Mojez说，“但在幕后，我个人审核了成百上千个恐怖和令人创伤的视频。我主动承担了这项任务，让自己的心理健康承受打击，以便普通用户可以继续在平台上进行日常活动。”
目前有多起正在进行的法律诉讼声称，这项工作已经摧毁了审核员的心理健康。一些来自东非的前员工已经联合起来成立了一个工会。“事实上，唯一能阻止我在社交媒体平台上观看斩首视频的就是某个坐在办公室里的人，他为我审查这些内容，这样我就不用看了。”运营支持法律行动的活动组织Foxglove的Martha Dark说。
曾在TikTok上移除有害内容的Mojez表示，他的心理健康受到了影响。2020年，当时名为Facebook的Meta同意支付5200万美元（4000万英镑）的和解金给因工作而出现心理健康问题的审核员。这起法律诉讼是由美国的一位前审核员Selena Scola发起的。她将审核员描述为“灵魂的守护者”，因为他们看到了大量包含人们生命最后时刻的视频。
我采访的所有前审核员都用“创伤”这个词来形容这份工作对他们的影响。有些人难以入睡和进食。一位审核员描述说，听到婴儿哭声会让同事惊慌失措。另一位审核员表示，由于目睹了儿童虐待，他很难与妻子和孩子互动。* 相关信息和支持可参见 BBC行动热线
我本以为他们会说这份工作情感和心理负担太重，不应该有人去做——我以为他们会全力支持整个行业实现自动化，让AI工具发展到足以胜任这项工作的水平。但他们并没有这样做。
非常强烈地传达出来的，是审核员对自己在保护世界免受网络危害方面所扮演角色的巨大自豪感。他们认为自己是一项重要的紧急服务。其中一人表示，他希望有一套制服和徽章，把自己比作救护人员或消防员。“连一秒钟都没有浪费过，”我们称其为David的人说。他要求匿名，因为他曾参与处理用于训练病毒式AI聊天机器人ChatGPT的材料，使其不会重复生成恐怖内容。“我为那些训练这个模型成为今天模样的个体感到骄傲。”
然而，David帮助训练的工具有一天可能会与他竞争。OpenAI的ChatGPT创建者、前信任与安全部门负责人Dave Willner表示，他的团队基于聊天机器人的技术构建了一个基础审核工具，该工具能够以约90%的准确率识别有害内容。“当我意识到‘哦，这真的可行’时，我确实有点哽咽了，”他说。“AI工具不会厌倦，不会疲劳，也不会震惊……它们不知疲倦。”
然而，并不是所有人都相信AI是解决审核难题的灵丹妙药。“我认为这是有问题的，”格拉斯哥大学媒体与民主高级讲师Paul Reilly博士说。“显然，AI是一种相当粗略、二元化的内容审核方式。它可能导致过度屏蔽自由言论的问题，当然也可能错过人类审核员能够识别的细微之处。人类审核对于平台来说是必不可少的，”他补充道。“问题是审核员数量不够，而且这项工作对那些从事的人来说极其有害。”
我们也联系了系列中提到的科技公司。TikTok的一位发言人表示，该公司知道内容审核并不是一项容易的任务，他们努力为员工营造一个关爱的工作环境。这包括提供临床支持，并创建支持审核员福祉的项目。他们补充说，视频最初由自动化技术审查，该技术可以移除大量有害内容。
与此同时，开发ChatGPT的OpenAI表示，他们感谢人类工作者所做的重要且有时具有挑战性的工作，这些工作帮助训练AI识别此类照片和视频。一位发言人补充说，OpenAI与其合作伙伴一起执行政策，以保护这些团队的福祉。而拥有Instagram和Facebook的Meta表示，他们要求所有合作公司提供24小时现场支持，并配备经过培训的专业人员。他们还表示，审核员可以自定义审核工具，以模糊图形内容。
《审核员》将于11月11日至15日在BBC Radio 4的13:45 GMT播出，并可在BBC Sounds上收听。
(全文结束)
