由于生成式人工智能（AI）工具的快速发展，虚假和误导性健康信息在网上和社交媒体上的传播日益增多。这使得视频、照片和音频中的知名医疗专业人员可以被操纵——例如，让他们看起来像是在推广假的医疗产品，或者诱骗澳大利亚人分享敏感的健康信息。
在线获取健康信息
2021年，四分之三的18岁以上的澳大利亚人表示他们在线访问医疗服务，如与医生进行远程医疗咨询。一项2023年的研究表明，82%的澳大利亚父母在咨询医生的同时，也通过社交媒体了解健康相关问题。
然而，全球范围内健康相关的错误信息（即事实不正确的材料）和误导信息（故意误导人们的信息）的增长是指数级的。
从Medicare电子邮件和短信钓鱼诈骗，到销售假药，澳大利亚人面临着因听信虚假建议而损失金钱甚至损害健康的双重风险。
什么是深度伪造技术？
一种新兴的健康相关骗局是利用生成式AI工具创建深度伪造视频、照片和音频记录。这些深度伪造被用来推广假的医疗产品或诱使消费者与他们认为可信的人分享敏感的健康信息。
深度伪造是一种真实人物的照片或视频，或其声音的录音，经过修改使其看起来或听起来像是做了或说了他们实际上没有做的事情。
直到现在，人们使用照片或视频编辑软件来创建假图像，比如将某人的脸叠加在另一个人的身体上。Adobe Photoshop甚至宣传其软件的“换脸”功能，以“确保每个人在家庭照片中看起来都是最好的”。
虽然创建深度伪造并不新鲜，但医疗从业者和组织对生成式AI工具能够实现的速度和超现实主义发出了警报。当这些深度伪造通过社交媒体平台传播时，其影响力显著增加，潜在的危害也随之增加。
它如何用于健康骗局？
例如，在2024年12月，维多利亚州糖尿病协会提请注意一些深度伪造视频，这些视频显示墨尔本贝克心脏和糖尿病研究所的专家们在推广一种糖尿病补充剂。
澳大利亚糖尿病协会发布的媒体声明明确指出，这些视频不是真实的，并且是使用AI技术制作的。
这两个组织都没有认可这些补充剂，也没有批准这种虚假广告，而视频中出现的医生也不得不提醒他的患者注意这一骗局。
这不是第一次医生（假的）图像被用来销售产品。2024年4月，骗子使用卡尔·克鲁泽尼奇博士的深度伪造图像通过Facebook向澳大利亚人销售药品。尽管一些用户向该平台举报了这些帖子，但他们被告知这些广告并未违反平台标准。
2023年，TikTok Shop也受到了审查，卖家篡改了医生在TikTok上的合法视频，以（虚假地）推广产品。这些深度伪造获得了超过1000万次的观看。
我应该注意什么？
2024年的一项对80多项科学研究的综述发现，有几种方法可以对抗网上的错误信息。这些方法包括社交媒体平台提醒读者注意未经验证的信息，以及教授老年人数字素养技能。
不幸的是，许多这些策略都集中在书面材料上，或者需要准确的信息来验证内容。识别深度伪造需要不同的技能。
澳大利亚电子安全专员提供了有用的资源，指导人们识别深度伪造。
重要的是，他们建议考虑上下文本身。问自己——这是我会期待这个人说的内容吗？这个地方是我会期待这个人出现的地方吗？
电子安全专员还建议人们仔细观察和倾听，检查是否有：
- 模糊、裁剪效果或像素化
- 皮肤不一致或色差
- 视频不一致，如故障、光线或背景变化
- 音频问题，如声音同步不良
- 不正常的眨眼或动作看起来不自然
- 内容故事线或演讲中的空白。
问自己：这是我期望这个人说的话吗？
我还可以做些什么来保持安全？
如果你自己的图像或声音被篡改，你可以直接联系电子安全专员，帮助删除这些材料。
《英国医学杂志》还发布了专门针对处理健康相关深度伪造的建议，建议人们：
- 联系推广产品的人员，确认图像、视频或音频是否合法
- 在网站上留下公开评论，质疑声明的真实性（这也可以促使其他人对看到和听到的内容持批判态度）
- 使用在线平台的报告工具来标记假产品，并报告发布误导信息的账户
- 鼓励他人质疑所见所闻，并向医疗保健提供者寻求建议。
最后一点至关重要。正如所有健康相关信息一样，消费者必须在与医生、药剂师和其他合格的医疗保健专业人士协商后做出明智的决定。
随着生成式AI技术变得越来越先进，政府也有一个关键角色，即保护澳大利亚人的安全。2025年2月发布的备受期待的《在线安全审查》对此做出了明确说明。
该审查建议澳大利亚采用责任法，以解决“对精神和身体健康的伤害”以及“有害行为的指示或推广”带来的严重危害。
鉴于遵循深度伪造健康建议可能带来的潜在有害后果，责任法对于保护澳大利亚人和支持他们做出适当的健康决策是必要的。
(全文结束)
