虚假和误导性的健康信息在网上和社交媒体上日益增多，这要归功于深度伪造技术和生成式人工智能（AI）的迅速发展。这些技术使得受尊敬的医疗专业人员的视频、照片和音频被操纵，例如，让他们看起来像是在推广假医疗产品，或是诱骗澳大利亚人的敏感健康信息。
那么，这些健康骗局是如何运作的？你又该如何识别它们呢？
在线获取健康信息
2021年，超过四分之三的18岁以上的澳大利亚人表示他们在线获取医疗服务，如通过远程医疗咨询医生。一项2023年的研究表明，82%的澳大利亚父母在咨询医生的同时，还会通过社交媒体了解健康相关问题。
然而，全球范围内，健康相关的错误信息（即事实上不正确的材料）和误导性信息（即故意误导人们的信息）的增长是指数级的。从Medicare电子邮件和短信钓鱼诈骗，到销售假药，澳大利亚人面临着因听信虚假建议而损失金钱和损害健康的危险。
什么是深度伪造技术？
一种新兴的健康相关骗局是利用生成式AI工具创建深度伪造视频、照片和音频记录。这些深度伪造被用来推广假医疗产品或诱导消费者向他们认为可信的人分享敏感的健康信息。
深度伪造是一种对真实人物的照片或视频进行修改，使其看起来像是该人做了或说了实际上没有做的事情。直到现在，人们还使用照片或视频编辑软件来创建假图像，比如将某人的脸叠加到另一个人的身体上。Adobe Photoshop甚至宣传其软件的“换脸”功能，以“确保每个人在家庭照片中都表现出最佳状态”。
虽然创建深度伪造并不是新鲜事，但医疗从业者和组织对生成式AI工具能够实现的速度和超现实主义发出了警报。当这些深度伪造通过社交媒体平台传播时，会显著增加误导信息的传播范围，从而增加潜在的危害。
这些技术如何用于健康骗局？
例如，在2024年12月，糖尿病维多利亚州分会注意到有人使用深度伪造视频，展示来自墨尔本贝克心脏与糖尿病研究所的专家推广一种糖尿病补充剂。糖尿病澳大利亚发布的媒体声明明确指出，这些视频是不真实的，并且是用AI技术制作的。这两个组织都没有批准这些虚假广告，视频中的医生也不得不提醒他的患者注意这个骗局。
这不是第一次有人使用医生的假图像来销售产品。2024年4月，骗子使用了卡尔·克鲁兹尔尼奇博士的深度伪造图像在Facebook上向澳大利亚人销售药品。尽管一些用户向平台报告了这些帖子，但他们被告知这些广告没有违反平台标准。2023年，TikTok Shop也受到了审查，卖家篡改了医生合法的TikTok视频，以（虚假地）推广产品。这些深度伪造获得了超过1000万次的观看。
我应该注意什么？
2024年的一项综述研究了80多项科学研究，发现了一些对抗网络错误信息的方法。其中包括社交媒体平台提示读者关于未经验证的信息，以及教授老年人数字素养技能。
不幸的是，许多这些策略侧重于书面材料，或者需要访问准确的信息来验证内容。识别深度伪造则需要不同的技能。
澳大利亚电子安全专员提供了有用的资源，指导人们识别深度伪造。重要的是，他们建议考虑上下文本身。问自己——这是这个人可能会说的话吗？这个地方看起来像是这个人会出现的地方吗？
专员还建议人们仔细观察和聆听，检查以下几点：
- 模糊、裁剪效果或像素化
- 皮肤不一致或变色
- 视频不一致，如故障、光线或背景变化
- 音频问题，如声音同步不佳
- 不规则眨眼或动作显得不自然
- 内容中的故事线或讲话中的空白
我还能做些什么来保持安全？
如果你自己的图像或声音被篡改，你可以直接联系电子安全专员，寻求帮助移除这些材料。
《英国医学杂志》还发布了专门针对处理健康相关深度伪造的建议，建议人们：
- 联系推广产品的个人，确认图像、视频或音频是否合法
- 在网站上留下公开评论，质疑这些说法是否真实（这也可以促使其他人对所见所闻持批判态度）
- 使用在线平台的举报工具，标记假产品并报告传播误导信息的账户
- 鼓励他人质疑他们所看到和听到的内容，并寻求医疗保健提供者的建议
最后一点至关重要。对于所有健康相关信息，消费者必须在咨询医生、药剂师和其他合格的医疗保健专业人员后做出明智的决定。
随着生成式AI技术变得越来越先进，政府在保护澳大利亚人安全方面也发挥着关键作用。2025年2月发布的期待已久的《在线安全审查》强调了这一点。该审查建议澳大利亚采用职责立法，以解决“对心理和身体健康的危害”以及“有害行为的指导或推广”。
鉴于遵循深度伪造健康建议可能带来的潜在危害，职责立法对于保护澳大利亚人和支持他们做出适当的健康决策至关重要。
(全文结束)
