母亲兼律师艾玛·梅森（Emma Mason）清楚地记得那个改变了她家庭一切的电话。
2020 年 11 月的一个平常日子，梅森女士在工作时接到了女儿玛蒂尔达·“蒂莉”·罗斯沃恩（Matilda "Tilly" Rosewarne）的午餐时间来电。听到 14 岁的蒂莉在电话里哭泣，梅森女士说她“立刻就知道出了大问题”。
如果您或您认识的任何人需要帮助：
- 生命线：131 114
- 儿童求助热线：1800 551 800
- 超越蓝：1300 224 636
- 新南威尔士州心理健康热线：1800 011 511
- 自杀回拨服务：1300 659 467
- 澳大利亚男士热线：1300 789 978
- Headspace：1800 650 890
- ReachOut
- 如果需要立即护理，请拨打紧急服务电话 000
她的女儿解释说，一张假的裸照——看起来像蒂莉——正在学校流传。蒂莉 8 岁时就开始受到欺凌。梅森女士说，蒂莉经历的欺凌一直持续到高中，发生在他们位于新南威尔士州巴瑟斯特（Bathurst）的家乡附近。然后，这种欺凌蔓延到了社交媒体上，影响迅速。在蒂莉的同龄人中流传的假裸照是深度伪造图像滥用的一个例子，这种情况直接影响到了年轻人——主要是女孩。
“尽管裸照不是蒂莉的，但她知道人们认为那是她。在一个小镇上，这是灾难性的。”梅森女士说。
“我们开始了解这张照片在巴瑟斯特的学生中传播得有多广。”她在提交给社交媒体和澳大利亚社会联合特别委员会的材料中指出。
在接下来的几个月里，网络欺凌加剧。2022 年 2 月 16 日凌晨 3 点刚过，蒂莉结束了自己的生命。她只有 15 岁。
梅森女士说：“可悲的是，蒂莉在短暂的一生中因无数次伤害而离世。这是一起由欺凌导致的死亡——社交媒体加剧了这一情况。”
深度伪造图像滥用是指未经同意，虚假地描绘一个人的相似性的性图像和/或视频。明确的深度伪造滥用通常涉及将人的脸叠加到色情内容上。家长和教育工作者担心这种情况在儿童和青少年中普遍存在。
网络犯罪专家表示，儿童和青少年越来越多地成为“深度伪造”露骨图像的受害者，一位倡导者在青少年时期成为目标后呼吁对人工智能生成的滥用进行更多教育。
这一数字包括青少年使用深度伪造来针对女同学的报告。
丽贝卡·约翰逊（Rebecca Johnson）是悉尼大学科学学院的人工智能研究员和博士候选人。
“多年来，人们出于各种邪恶的原因制造假货，特别是针对妇女和女孩，”她说。
现在不同的是，获取这些技术的便利性使得创建这种滥用材料变得容易得多。
“这不是一个可以仅由技术专家或大型科技公司解决的问题，”她说。
“我们从过去的人工智能课程中知道，我们需要各种各样的人来解决这些问题。
“我们正在进入一个越来越难以区分真假的时代。”
为了平衡社交媒体对年轻人可能产生的积极和消极影响，新南威尔士州和南澳大利亚州政府本周早些时候举办了社交媒体峰会。
梅森女士出席了峰会的第一天，并在第二天与另一位有亲身经历的家长倡导者韦恩·霍德斯沃思（Wayne Holdsworth）一起发言，后者 17 岁的儿子在成为性勒索的受害者后自杀身亡。
两人都强烈地谈到了他们家庭的损失，称其为“灵魂和心灵的摧毁”。
回顾第一天的峰会，梅森女士称其“有点走过场”。
“这不应该是一个政治上的烫手山芋。
“我们都有研究和知识，知道社交媒体的影响，让我们做点什么。两年前蒂莉去世时，有人说，‘我们开个峰会吧。’但实际上什么也没发生。我作为一个局外人这么说，我不在权力的殿堂里，”她说。
“就是这种感觉。”
梅森女士是众多赞同联邦政府限制儿童访问社交媒体的澳大利亚家长之一。
对于电子安全专员朱莉·英曼·格兰特（Julie Inman Grant）来说，她说青少年在网上面临的不断变化的威胁不应被忽视。
“像元宇宙这样的高感官沉浸式环境的超现实主义意味着那里的攻击可以实时发生，并留在孩子的海马体中，产生与现实世界中相同的创伤性生理影响，”她说。
电子安全专员朱莉·英曼·格兰特（Julie Inman Grant）表示，她专注于消除基于图像的滥用。
专员补充说，在过去的财政年度，电子安全部门收到了 7000 多份基于图像滥用的报告。
“我们已经看到‘裸化应用程序’和强大的深度伪造被用作针对年轻女孩的武器。”
新南威尔士州州长克里斯·明斯（Chris Minns）和南澳大利亚州州长彼得·马利纳乌斯卡斯（Peter Malinauskas）谈到了他们支持对儿童访问社交媒体设定年龄限制的计划，但都没有透露年龄限制是多少。
青年心理健康组织 ReachOut 警告说，取消青少年访问社交媒体可能会有潜在危害。其研究发现，许多年轻人经常依靠这些平台获得心理健康支持。
澳大利亚推动青少年社交媒体禁令是一条孤独的道路。我们是勇敢还是迷失？
几天前，新南威尔士州政府公布了他们对 19185 名家长进行的一项调查的结果，结果显示家长对社交媒体年龄限制的支持率极高。
对于梅森女士来说，她希望没有其他孩子经历她女儿蒂莉所经历的一切。
“我认为很难找到一个有亲身经历的家长说‘不，我们应该让这种伤害继续下去。’
“这与教育有关，但这不是你唯一能拉动的杠杆。”
（全文结束）
