“ZAO”不过是再次向大众开放了一个全民狂欢的空间罢了，它最重要的功能，是“玩”，让你放肆让你high。

文 | Anne

“ZAO”来了。

什么是“ZAO”？原来，这是一款陌陌系出品的AI换脸软件，它喊出“仅需一张照片，出演天下好戏”的口号，连日来刷屏朋友圈。用户只要上传自拍照，便可将自己“变成”影视片段的主角，并将这些“换过头”的视频片段，上传各大社交平台，引发病毒式传播。9月1日，在苹果应用商店App Store的免费App下载排名中，“ZAO”已雄踞首位。

截至9月3日23时，在App Store免费App排行榜、娱乐子类免费App排行榜中，“ZAO”依然是第一名

与此同时，一红是非多。关于“ZAO”可能牵涉的隐私安全问题，迅速引焦虑情绪升温。8月底，有网友聚集在“ZAO”的官方微博，要求注销账号，删除本地面孔。9月初，“ZAO”在App Store的评分已由此前的4.6分降至1.9分；微信分享链接停止访问，显示“网页存在安全风险，被多人投诉，为维护绿色上网环境，已停止访问”。

9月3日，终于“挡不牢”的“ZAO”发布声明称，作为一个初创产品，其在大家核心关切的问题上确实考虑不周。“这两天，我们一直在反思和修正。”“不会存储个人面部生物识别特征信息；无支付风险。”

“ZAO”的声明全文

同日，针对媒体公开报道和用户曝光的“ZAO”App用户隐私协议不规范，存在数据泄露风险等网络数据安全问题，工业和信息化部网络安全管理局对北京陌陌科技有限公司相关负责人进行了问询约谈，要求其严格按照国家法律法规以及相关主管部门要求，组织开展自查整改，依法依规收集使用用户个人信息，规范协议条款，强化网络数据和用户个人信息安全保护。同时，要进一步加强新技术新业务安全评估，切实采取有效措施，积极防范自有业务平台被利用实施电信网络诈骗等风险隐患。

为何AI换脸App能火？

如前文所述，“ZAO”是一款换脸App，用户点入，便可以看到很多热门影视片段，而只要上传自己的照片，这些热门影视片段里明星的脸，就能被替换成用户的脸。从咆哮教主马景涛到向“十元”小甜甜发出约会邀请再到诠释莱昂纳多版同款“男神油腻进化史”，没有“ZAO”搞不定的。

理论上，用户上传其他明星的照片也行，因此，在所有能被提供的经典剧情片段里，用户可以重组自己喜欢的CP搭配，这其实就等于是制造了一段新的“影视”。

从App已有的那些视频cut来分析，“ZAO”想要击中的第一波用户心态是填充他们的yy，这种幻想往往是和自己的偶像同框，顺带演一演谈情说爱的戏码。而第二种“ZAO”想要满足的用户欲望，是通过制造喜感来达到娱乐效果，所以以马教主、小李子为原素材的那类视频cut也倍受欢迎。

通俗地讲，“ZAO”给了用户代入式的娱乐，事实上，这并不新鲜，以前抖音上很火的那些配音视频，恰是这种代入式、替换式娱乐的前身。显而易见，“ZAO”不过是再次向大众开放了一个全民狂欢的空间罢了，它最重要的功能，是“玩”，让你放肆让你high。其降低的门槛（此前，AI换脸App曾在国外风靡一时，但需要制作者掌握一定的技术、需要辅助设备；但“ZAO”没有这些要求，用户传照片即可），保证了上手快、面向广，从而保证了走红的某种必然性。

在苹果App Store搜索“ZAO”，下面会出现另一款功能类似的名为“颜技”的App。颜技App市场负责人在接受媒体采访时的一席话颇值得咀嚼：“做这款软件的初衷很简单，让用户与影视作品能够深入互动。因为现在几乎大部分行业都已经在与用户互动方面有了革命性的突破，唯独影视作品这一方面，用户没办法介入到影视作品本身去，只能是在被动地接受了导演/编剧想要表达给用户看的东西之后，最多就是发发弹幕，吐吐槽。……在做的过程中，我们也慢慢有了更深层次的认知。我们的初衷还有另一层，那就是让广大戏精有一个可以表演的场所，音乐爱好者可以在线下的KTV、线上的全民K歌来享受，但表演爱好者并没有任何一个场所或是环境可以用。所以，这个时候，我们就来了……希望表演爱好者可以磨练演技，提升颜值，有颜有技，可以在这里释放戏精的天性，可以让表演的爱好发挥得淋漓尽致。所以不只是换脸，我们还会有更好玩的功能正在试验阶段。”

瞧瞧，“深入互动”“戏精”“释放天性”……说来说去，总归是绕着一个“玩”字打转了。

而一旦“玩过火”、玩越界，“ZAO”和它的小伙伴们，将不得不直面不可回避的隐私风险、法律模糊地带，以及伦理问题。

隐私风险，和非法的冒犯

安全专家指出，“（换脸软件）风险不是换脸，而是App是否远程保存用户的个人脸部私照，因为谁也不知道他们保存这些个人肖像照之后的用途。如果平台储存或利用不当，很有可能被恶意分子利用，比如欺骗注册等，给用户造成损失。”

怕什么来什么。9月3日晚间，有记者在二手交易App闲鱼上发现，多位卖家通过AI换脸技术制作出当红女明星的不雅视频进行售卖。其中一位卖家称，他有视频100部，里面包括30多位明星。还有一位类似卖家报价称，75元套餐中有40多位女明星上百部的AI换脸视频。

法律界人士表示，这种售卖明星换脸不雅视频的行为，毫无疑问是构成肖像侵权的，也涉嫌构成名誉侵权。而且还涉嫌构成刑事犯罪，它属于传播淫秽物品牟利罪，情节严重者可判无期徒刑。

此外，另有报道称，在一些电商平台上，卖家表示可以提供视频定制换脸产品。只需要买家提供一些被换脸人的照片，卖家便可以将照片中的人脸，“转”到特定视频中特定人物上去——除了女明星可能遭殃，谁都无法置身事外。

法律界人士提醒道：“像‘ZAO’这样的软件，你要上传头像，然后经过认证才能把你的换脸的视频分享给他人。所以这个认证的过程就是要对用户的人脸进行识别。至少在这个过程中，它肯定会收集脸部信息数据的，但会不会保存就不得而知了——现在是它自己单方的说法，我们无从判断，不排除它存在存储用户脸部特征数据的可能性。”“它如果存储这些数据的话，那有两方面的风险，第一个就是它自己保管不当导致这些数据泄露出去，其他人拿着这些数据从事违法犯罪活动，另外一个就是它自身拿这些数据进行非法的使用。”

AI技术，或演变成“不可描述.AVI”。其实，两年前国外已有“先例”：2017年Reddit上的“DeepFakes”账号，上传了把女星盖尔·加朵的脸合成到成人影片女演员身上的视频，给受害者直接带来名誉损害，曾掀起轩然大波。

后续的DeepNude应用，可以通过换脸来间接脱掉女性的衣服。

女星斯嘉丽·约翰逊直接站出来指责这种操作：“什么也阻止不了这些人把我的图片复制粘贴到另一个人的身体上，并且让它看起来逼真得可怕。”

而随着桌面应用程序FakeApp的出现，普通网民也能简单制作换脸假视频，互联网上的假脸视频开始广泛流传。有人把AI换脸技术用来恶搞政客，录制出以政客面容发表离谱演讲的视频等等，一时乌烟瘴气，最终导致多个网站禁止用户使用这项技术。

伦理困境：我们，不是人

当我们上传了自己的照片，让个人形象加入到“ZAO”们的时候，我们已参与了对影像纪实性的破坏。我们知道，这种看上去的“真实”，实为彻头彻尾的虚假。

一两段自己制作的视频还能够分辨真假，但他人生产的大批量流水线作业呢？那些原材料我们不熟悉的呢？全靠人工智能自行发挥生成的呢？

我们分不清了。

“眼见为实”这句老话，在如今这个时代，越来越难以让人信服了。当技术以超越道德伦理边界的方式被使用时，人类慢慢变得钝化，慢慢削弱了判断力与思考力。

什么是真实？

滤镜、美图、捏脸、换脸……每隔一阵就更新迭代、不断进步并大受欢迎的技术，宣告计算机软件正谱写着这个时代一种可以任意编辑、改写、替换甚至重造的数字身体。徘徊在虚拟与真实的肉身之间的我们，即将面临怎样的未来？

不久前的2019年8月31日，是虚拟偶像初音未来的12岁“生日”，为了庆祝这一天，公司为她在东京举办了魔法未来演唱会。演唱会现场充满了热泪盈眶的粉丝们，疯狂地叫喊着她的名字。同时，演唱会的盛况还通过网络传播到各个国家。这个完全没有实体，外表和性格都是虚拟的歌手从诞生起便大获喜爱，甚至有粉丝选择了和她举办结婚仪式，许下了一生一世的诺言。

是不是很夸张？

当数字的面孔（一天比一天逼真、完美）和真实的面孔同时存在的时候，“人”的边界模糊了。也许，技术正在以一种看似娱乐的方式取代人类；我们无法确定，在纯粹数字年代存活的，还是不是纯粹的人类。

试看社交平台上那些千篇一律的面容与身材吧，毫无特征，自觉或不自觉地沦为了消费的对象。自然的“灵晕”（aura）消失了，高级审美意义上的“美”，消失了。

现在我们可以在虚拟世界换脸，将来我们或能在真实世界换躯壳。然而，天生天赐的东西，倘若被数字洪流冲刷殆尽，结局既未必全然悲观，亦未必无憾。

现在，我们还能对着忘记伪装的乔碧萝疯狂吐槽，还能讨论“p图只p自己”的塑料友情，还能今天玩变脸明天耍换头……终有一天，我们或猛然发现，曾经的虚拟，侵入了绝对的真实。

届时，我们，也许将不再是“人”了。

一点题外话：

《银翼杀手》里的仿生人Roy Batty死于2019年洛杉矶的夜雨中。

他的扮演者，荷兰演员Rutger Hauer，同样死在2019年，死在这个多雨的夏天。

Roy说，We're nocomputers, Sebastian. We're physical. 我们不是机器，塞巴斯蒂安，我们是血肉之躯。

仿生人追求脱离牢笼，自认是“血肉之躯”；讽刺的是，我们身边很多真的人类，反而宁愿将自己送入看不见的牢笼，宁愿选择矫饰，宁愿选择虚假的欢乐，直至水淹没顶。

说技术，仿生人技术恐怕是造就艺术的某种极致了，但电影业已告诉我们，那不是一个美丽的新世界。

为了回归星辰、去猎户座边缘看战舰，我们，必须不忘初心。

不忘，我是谁。

喜剧世界杂志

消防界杂志官网

东方收藏杂志社