技术平台审核员正陷入一场"打地鼠式"的持久战——这些利用AI生成的虚假广告正在社交平台肆虐。画面中，一名肌肉发达、赤裸上身的男子手举超大胡萝卜，推销一款声称可增大男性生殖器的补充剂。这类AI生成的视频充斥TikTok平台，销售未经验证的性保健产品。
生成式人工智能的崛起使得此类视频的批量生产变得轻而易举且利润丰厚。视频常包含伪造的名人代言，推销具有潜在危害的虚假产品。某些视频甚至使用胡萝卜作为男性生殖器的隐喻，以规避内容审核对色情语言的监管。
"你会注意到自己的'胡萝卜'已经成长了"，在其中一个视频中，该男子以机械合成音说道，并引导用户点击购买链接。他声称配方中的草药成分能提升睾酮水平，使能量水平"飙升至顶峰"——这些说法均缺乏医学证据支撑。
根据总部位于旧金山湾区的公司Resemble AI的深度伪造检测服务分析，该视频明显为AI生成。其CEO兼联合创始人Zohaib Ahmed向法新社透露："我们看到AI生成内容正被武器化，用于传播虚假信息。"
这种趋势凸显了人工智能的快速发展如何催生"AI反乌托邦"——一个充满欺骗的网络空间，通过深度伪造技术伪造名人形象，例如女演员阿曼达·塞弗里德和演员罗伯特·德尼罗。某些视频甚至让前美国国家过敏及传染病研究所所长福奇"现身说法"推销前列腺保健品。
康奈尔科技学院安全、信任与安全倡议总监Alexios Mantzarlis指出，这些经过操纵的视频通过AI生成语音与唇形同步技术进行二次创作。去年他在YouTube发现数百个此类广告，其中施瓦辛格、史泰龙和泰森等名人形象被用于推广勃起障碍治疗补充剂。
更令人担忧的是，生成式AI制作短视频的速度远超平台删除效率。即使平台移除违规内容，几乎相同的视频会以指数级速度重新涌现。法新社事实核查员多次揭露脸书上的虚假广告，包括使用伪造的神经外科医生兼前美国内阁成员本·卡森的虚假背书。
"诈骗性附属营销和可疑性保健品的存在早于互联网，但生成式AI让这种滥用渠道变得前所未有地廉价和高效。"Mantzarlis强调，这种技术正在系统性侵蚀公众对网络信息真实性的判断能力。
【全文结束】
