深度伪造“医生”现身TikTok推销虚假疗法

Deepfake 'doctors' take to TikTok to peddle bogus cures

曾经局限于研究实验室的生成式人工智能如今已普及至大众，包括那些怀有恶意的人。他们利用AI工具不仅没有激发创造力，反而助长了欺骗行为。深度伪造技术能够制作出极为逼真的视频、图像和音频，逐渐成为名人模仿、舆论操控、身份盗窃以及各类骗局的首选手段。

在TikTok和Instagram等社交媒体平台上，深度伪造内容的传播范围及其潜在危害尤为惊人。ESET拉美地区的研究人员最近在TikTok和Instagram上发现了一项活动，其中AI生成的虚拟形象冒充妇科医生、营养师及其他健康专业人士，以推广保健品和健康产品。这些视频通常制作精良且极具说服力，将销售话术伪装成医学建议，诱使毫无防备的观众购买可疑甚至可能存在风险的产品。

欺骗的本质

每个视频都遵循类似的套路：一个说话的虚拟形象通常出现在屏幕一角，提供健康或美容建议。这些建议以权威姿态传递，多半推崇“天然”疗法，并引导观众购买特定产品。通过披上专家推荐的外衣，这些深度伪造内容利用人们对医疗行业的信任来推动销售，这种手段既不道德又极其有效。

图1. 误导性TikTok视频示例

在一个案例中，“医生”吹捧一种“天然提取物”，声称其优于备受关注的减肥药物Ozempic。视频承诺显著效果并将观众引导至亚马逊页面，该产品被描述为“放松滴剂”或“抗肿胀辅助品”，与宣传中的神奇功效毫无关联。

其他视频则进一步升级，推广未经批准的药物或严重疾病的假疗法，有时甚至盗用知名医生的形象。

图2. 更多误导性视频

AI的“救赎”

这些视频使用合法的AI工具制作，任何人都可以提交简短视频并将其转化为精致的虚拟形象。虽然这对希望扩大产出的影响者来说是一种福音，但同样的技术也可能被滥用于误导性声明和欺骗——换句话说，原本作为营销噱头的内容迅速演变为传播虚假信息的工具。

我们发现了超过20个在TikTok和Instagram上利用深度伪造医生推广产品的账号。其中一个冒充拥有13年经验的妇科医生，直接追溯到应用程序的虚拟形象库。尽管这种滥用违反了常见AI工具的条款和条件，但也凸显了这些工具被武器化的容易程度。

图3. 视频（左）和虚拟形象（右）

最终，这不仅仅是关于无用的保健品。更严重的后果在于，这些深度伪造内容可能削弱公众对在线健康建议的信任，推广有害的“疗法”，延误正确的治疗。

防范虚假医生

随着AI技术变得更加普及，识别这些伪造内容变得愈发困难，即使是对技术娴熟的人来说也是一个广泛挑战。尽管如此，以下几点可以帮助您识别深度伪造视频：

• 嘴唇动作与音频不同步，或者面部表情僵硬不自然；
• 视觉故障，例如模糊边缘或突然的光线变化，也常常暴露伪造痕迹；
• 机械或过于完美的声音是另一个警示信号；
• 同时检查账号本身：新创建的个人资料、粉丝数量少或没有历史记录会引发怀疑；
• 警惕夸张的声明，例如“奇迹疗法”、“保证效果”和“医生讨厌这个技巧”，特别是当它们缺乏可信来源时；
• 始终通过可信的医学资源验证声明，避免分享可疑视频，并向平台报告误导内容。

随着AI工具的不断进步，区分真实与伪造内容将愈加困难，而非更容易。这一威胁突显了开发技术防护措施及提高集体数字素养的重要性，帮助我们免受可能影响健康和财务福祉的虚假信息和骗局侵害。

(全文结束)