利用人工智能（AI）技术生成的深度伪造视频正在滥用南非著名医生Salim Abdool Karim的形象，在社交媒体上散布有关新冠疫苗的虚假信息，并推广一种无效的心脏药物。Karim教授是南非艾滋病研究计划中心（Caprisa）的主任，他驳斥了视频内容，并重申新冠疫苗是安全的。“这个[深度伪造视频]让我看起来像是在发表反疫苗言论……这家公司盯上了我，他们不打算放过我。他们在利用我，我认为这是因为他们这样做对销售有利，”Karim告诉《Daily Maverick》。Caprisa表示：“Karim教授和Caprisa都没有为任何公司背书任何药物。”
蛇油疗法
这是这家诈骗公司第二次使用Karim教授的AI深度伪造视频来推销其产品，之前的视频大约出现在去年九月。更早之前，该公司曾在社交媒体上分享过印有Karim教授静态图像的虚假疗法海报。最近的一段深度伪造视频伪装成SABC新闻报道，其中Karim教授似乎在回应主持人的问题。AI生成的Karim教授错误地描述了与新冠疫苗相关的血栓问题，随后鼓励观众使用“一种独特的配方、突破性疗法，在一个疗程后溶解所有类型的血栓”，以“清理”他们的血管。
尽管自己的身份持续被滥用，但Karim教授表示，针对那些负责人的法律追索权非常有限。“当[广告]第一次出现时，我非常愤怒，我说，‘我要不惜一切代价追查这些人’……我们雇佣了人去调查此事。我们花了不少钱，当我们逐渐接近真相时，我们意识到这实际上可以用一个游乐园游戏‘打地鼠’来形容，”他说。“当你试图阻止一个时，另一个又冒出来。所以，这件事没完没了。”
调查团队将骗局追溯到一家位于约翰内斯堡Midrand的坦桑尼亚公司，但就在他们缩小搜索范围时，该行动关闭并消失了。几周后，另一则使用Karim教授形象的广告再次出现，似乎是同一团伙所为。“我们试图对他们发出禁令，但这被证明是一个真正的挑战，因为我们不知道我们要对谁发出禁令，”Karim说。“我意识到你实际上无法对这些人采取法律行动，因为它不是一个正规的公司。它没有依靠任何声誉进行交易。它是在利用我的声誉，因为他们自己没有声誉。他们只是临时起意的骗子……没有任何机会给我们，因为他们是非法的。”
根据Karim教授的说法，这家诈骗公司通过Facebook上的付费广告来传播其营销材料。从那里，平台用户会将这些海报或视频分享到其他社交媒体平台，包括WhatsApp。每次广告发布后，Karim教授都会收到多达20封来自公众的电子邮件，询问如何购买这种假药，或报告因使用该药而产生的副作用。
不遗余力
在6月26日（周四）发布的声明中，南非国家卫生部表示已知悉这段诋毁新冠疫苗安全性的AI生成视频。“根据我们的信息，这些行为旨在欺骗公众购买虚假的心脏药物。这是通过邮寄订单完成的，而这种假产品显然不起作用，甚至让人生病，”卫生部称。“卫生部长[Aaron Motsoaledi博士]强烈谴责这些出于商业利益的江湖骗子发起的假新闻活动，他们为了不道德的牟利目的，决心在民众中制造混乱。”Motsoaledi鼓励公众依赖由南非健康产品监管局（Sahpra）和国家卫生部批准的疫苗。该部门表示，将“不遗余力”打击这家诈骗公司的行为。
Caprisa敦促公众：
- 参考可信来源，如Caprisa、Sahpra、卫生部或值得信赖的注册医疗保健专业人士，获取准确的健康信息；
- 验证健康声明、产品和建议行动的真实性；
- 直接向托管社交媒体平台（如X、Facebook或TikTok）报告发现的任何假新闻实例；
- 避免在移动聊天群组中分享假新闻图片、视频或消息。
社交媒体与健康虚假信息
Karim指出，虽然健康领域的虚假信息有着悠久的历史，但近年来这些叙事变得更加有组织。传播虚假信息的人不再依赖主流媒体，因为在主流媒体中事实核查是许多虚假声明的障碍。“新冠疫情是一个转折点，在疫情中，虚假信息……变得有组织并通过社交媒体放大，”他说。
Karim表示，“社交媒体巨头”有效地抵制了对其平台的控制和监管，并引用了加拿大最近的一项发展为例，即政府因美国总统唐纳德·特朗普威胁取消贸易协议谈判而取消了对美国大型科技公司的税收。“这告诉你特朗普多么受制于这些社交媒体巨头，他们不会容忍任何监管。他们会反对任何国家的监管……因为他们认为这会影响他们的底线，”他说。“所有这些公司现在要么减少，要么完全取消了他们的内容策划和事实核查……实际上我对我们可以合理监管和控制这些大公司并不抱太大希望。每个迹象都相反。他们控制着其他人。”
反思能够减少虚拟平台上虚假信息传播的变化时，Karim表示，未经事实核查的社交媒体页面应贴上警告标签，表明内容可能不真实。“第二件事是，我认为我们需要教育下一代年轻人，让他们在进入社交媒体平台时保持高度健康的怀疑态度，因为我担心他们认为一切都是真实的，从而陷入这些虚假世界，”他说。“我们必须教育下一代理解他们在社交媒体上看到的一切首先应该被视为谎言。”
(全文结束)
