张文宏AI换脸带货事件引发关注，网络AI名人泛滥成灾

本报记者 朱高翔

张文宏开直播带货？

近日，不少网友发帖称，疑似在短视频平台上销售蛋白棒的知名医生张文宏，被家里的老人信以为真，下了大单。不过仔细一看，可以发现带货的视频是AI合成的。张文宏本人回应称，这些虚假的人工智能合成信息就像蝗灾一样，一次又一次地发生，对人们造成的伤害就像天上飞的蝗虫一样。

不仅是张文宏，网络上的“AI红人”也已成为一种普遍趋势：“假靳东”迷倒了很多大妈，“假雷军”热评了世界各种情况，“ “假拜登”宣布第三次世界大战开始，“假马克龙”直播回答“政府雇佣灭霸”……

此前发生的韩国Deepfake（深度假）性犯罪事件，不仅让韩国所有女性陷入“变脸恐慌”，还引发全球关注。公众担心更广泛且充满敌意的网络环境正在开始渗透到现实世界。 。

人工智能方兴未艾。公众该如何面对新一代“施虐者”？

女孩照片被盗并变成色情视频

群组内容不可接受

来自河北保定的女孩欣欣（化名）从来没有想过Deepfake会发生在她身上。

今年7月9日，正在浏览抖音的欣欣突然收到一条私信，并被网友告知，有人自称是她的男朋友，在网上盗用了她的照片，然后用AI给她换了脸并传播开来。

“当我听到这个消息时，我有点震惊，不敢相信，但看到这些照片后，我感到非常愤怒。”欣欣告诉记者，对方不仅制作了大量AI换脸的不良照片和视频，而且还随意泄露。您自己的个人信息，包括网名、真实姓名、年龄、学校、专业等。

欣欣随后通过多方渠道求证。这些照片和视频都是对方从自己的小红书中搬来的，经过加工制作成了难看的色情图片。欣欣立即选择报警并咨询律师，开始固定更多证据。

“当晚8点左右，我就打电话报警，当时不排除是熟人还是陌生人的可能。随后，我通过各种账号伎俩得知对方是当事人知道了更多我的家庭关系等私密信息，我的嫌疑范围逐渐缩小​​，嫌疑人也被怀疑。”欣欣随后发布了一条只有对方可见的朋友圈，并为该内容做了特殊标记，很快该内容就出现在了网络上。

欣欣将这份直接证据交给了警方，很快警方就给出了结果：对方因传播淫秽物品被处以行政拘留十天。

“没想到 Deepfake 跟我关系这么近，更没想到肇事者还是一个熟人。”欣欣说，在处理这件事的过程中，她了解到身边很多女孩都遭遇过类似的事件，甚至更多。严肃的。个人隐私被泄露、谣言被传播、AI变脸、被性骚扰等等。

欣欣告诉记者，因为这次经历，她短暂接触了几款软件。上面有数百个群，群里的人有上万人。里面的内容不堪入目，充斥着各种少女AI替身。人脸照片、视频，还有诽谤、污蔑、谣言，令人恶心超乎想象。

“由于造谣成本低，他们甚至不需要一张完整的照片，一张人脸照片就可以搞定，而且很难被抓到，这使得他们更加肆无忌惮。”欣欣说。

普通人很难识别 Deepfake 内容