深度伪造视频滥用南非知名医生形象散播新冠疫苗和假药信息
Deepfake AI video of renowned Prof Salim Abdool Karim used to promote bogus heart medicine
一段由人工智能（AI）技术生成的深度伪造视频正在利用南非著名医生萨利姆·阿卜杜勒·卡里姆教授（Prof Salim Abdool Karim）的形象，在社交媒体上传播有关新冠疫苗的虚假信息，并推广一种无效的心脏药物。
阿卜杜勒·卡里姆是南非艾滋病研究项目中心（Caprisa）主任，他驳斥了视频内容，并重申新冠疫苗是安全的。“[深度伪造视频]让我在说反疫苗的话……这家公司突然盯上了我，而且他们不愿放过我。他们在利用我，我认为他们这么做是因为这对他们的销售有好处，”阿卜杜勒·卡里姆告诉《每日 Maverick》。
Caprisa 表示：“阿卜杜勒·卡里姆和 Caprisa 均未为任何公司背书任何药品。”
蛇油疗法
这是该诈骗公司第二次利用阿卜杜勒·卡里姆的 AI 深度伪造视频来推销其产品，上一次视频出现在去年九月左右。在此之前，该公司还曾在社交媒体上使用他的静态图片宣传这种假药。
最近的一段深度伪造视频伪装成 SABC 新闻报道，其中阿卜杜勒·卡里姆回答了一名主持人的提问。
AI 生成的阿卜杜勒·卡里姆讲述了与新冠疫苗相关的血栓问题的虚假说法，随后鼓励观众使用“一种独特的配方、突破性的疗法，能在仅一个疗程内溶解所有类型的血栓”。
尽管身份被持续滥用，阿卜杜勒·卡里姆表示，很难对相关责任人采取法律行动。
“当[广告]首次出现时，我非常愤怒，并表示‘我会不惜一切代价追究这些人’……我们雇人去调查此事。花了不少钱，当我们接近查明真相时，我们意识到这就像游乐场里的打地鼠游戏，”他说。
“当你试图阻止一个时，另一个又冒出来。所以，这个问题没有尽头。”
调查团队将骗局追溯到一家坦桑尼亚公司，其仓库位于约翰内斯堡的米德兰，但就在调查范围缩小之际，该操作关闭并消失。几周后，另一则使用阿卜杜勒·卡里姆形象的广告再次出现，似乎是由同一伙人分享。
“我们试图对他们申请禁令，但这证明是一个真正的挑战，因为我们不知道要对谁申请禁令，”阿卜杜勒·卡里姆说。
“我意识到你实际上无法对这些人采取法律行动，因为他们不是一个正式成立的公司。他们没有任何声誉可言。他们只是靠我的声誉，因为他们自己一无所有。他们是那种一夜消失的公司……没有什么能为我们创造机会，因为他们不合法。”
据阿卜杜勒·卡里姆称，该诈骗公司通过 Facebook 的付费广告传播其营销材料。从那里，平台用户会将海报或视频分享到其他社交媒体平台，包括 WhatsApp。
每次广告发布后，阿卜杜勒·卡里姆都会收到多达 20 封来自公众的电子邮件，询问购买这种假药或报告使用后的副作用。
不遗余力
在 6 月 26 日星期四发布的声明中，南非卫生部表示，它知晓这段针对阿卜杜勒·卡里姆的 AI 视频，该视频破坏了新冠疫苗的安全性。
“根据我们的信息，这些行为旨在欺骗公众购买假心脏药物。这是通过邮寄订单完成的，显然，这种假药要么无效，要么让人们感觉更糟，”卫生部表示。
“[卫生部长阿伦·莫措阿莱迪博士]强烈谴责这些出于商业利益的江湖骗子发起的虚假新闻活动，他们为了不道德的牟利目的，决心在民众中制造混乱。”
莫措阿莱迪鼓励公众依赖南非健康产品监管局（Sahpra）和卫生部批准的疫苗。
该部门表示，它将“不遗余力”打击这家诈骗公司的行为。
Caprisa 敦促公众：
- 参考可信来源，如 Caprisa、Sahpra、卫生部或值得信赖的注册医疗保健专业人士获取准确的健康信息；
- 验证健康声明、产品及相关建议的真实性；
- 直接向托管社交媒体平台（如 X、Facebook 或 TikTok）报告发现的任何虚假新闻；
- 不要在移动聊天群组中分享虚假新闻的图像、视频或消息。
社交媒体与健康虚假信息
阿卜杜勒·卡里姆指出，虽然健康领域的虚假信息由来已久，但近年来这些叙述变得更加有组织。传播虚假信息的人不再依赖主流媒体，因为在主流媒体中，事实核查成为许多虚假声明的障碍。
“新冠是一个转折点，发生的[事情]是虚假信息……变得有组织并通过社交媒体放大，”他说。
“社交媒体巨头有效地抵制了对其平台的控制和监管，”阿卜杜勒·卡里姆举了一个近期加拿大的例子，加拿大政府取消了对美国大型科技公司的税收，因为美国总统唐纳德·特朗普威胁要取消贸易谈判。
“这告诉你特朗普在多大程度上站在这些社交媒体巨头一边，他们不会容忍任何监管。他们将在任何国家对抗监管……因为他们认为这会影响他们的利润底线，”他说。
“所有这些公司现在都减少了甚至完全取消了他们的内容审核和事实核查……我实际上对我们能够合理监管和控制这些大公司并不抱太大希望。所有迹象都表明相反。他们控制着其他人。”
反思如何减少虚拟平台上虚假信息传播的变化时，阿卜杜勒·卡里姆表示，未经事实核查的社交媒体页面应贴上警告标签，表明内容可能不真实。
“第二件事是，我认为我们需要教育下一代年轻人，让他们在使用社交媒体平台时保持高度健康的怀疑态度，因为我担心他们认为一切都是真实的，从而陷入这些虚假世界，”他说。
“我们必须教育下一代，让他们明白他们在社交媒体上看到的一切首先应该被视为谎言。”
(全文结束)
声明：本文仅代表作者观点，不代表本站立场，如有侵权请联系我们删除。
本页内容撰写过程部分涉及AI生成（包括且不限于题材，素材，提纲的搜集与整理），请注意甄别。