AI换脸刷屏！“ZAO”风险巨大？

30日晚间开始，一款名叫ZAO的应用软件火遍社交网络。

用户可通过上传自己的照片，用AI换脸功能，将影视剧中的演员换成自己的脸，然后把小视频分享到朋友圈。

今年大热剧《小欢喜》、《陈情令》、《亲爱的热爱的》中的名场面在ZAO中均可体验。

ZAO App的功能介绍显示，可以用你的脸制作表情包，出演经典电影，跟偶像飙戏等。

这款App功能极简、难度极低、口碑发酵速度极快，如之前的“脸萌”一样，成为又一款现象级应用。不少网友很快跟风下载，并在网上晒出了以自己为主角的视频片段：

一秒钟变李现

一秒钟学会跳舞，占据C位

还能唱跳、Rap、打篮球

据悉，8月30日晚间，“ZAO”官方微博称，“这个月花700万租的服务器，今晚已经消耗1/3了。明天如果继续火爆，我们只能做严格一些的限制。”

8月31日下午14时，“ZAO”在苹果应用商店App Store的在免费App的下载排名中已跃居第二。

“ZAO”火了之后，问题来了……

虽然ZAO走红网络，但关于换脸的安全性及隐私性问题，很快引起了社会的广泛讨论和关注。

网友的担心不无道理，有媒体关注到，“ZAO”用户协议中写明，用户发布内容前，统一授予ZAO及其关联公司完全免费、不可撤销、永久、可转授权等权利。

还有网友表示，用户协议中还写明，若用户违反协议导致第三方受损害，用户应当独立承担法律责任并承担赔偿责任。

此外，该软件还涉及版权风险。ZAO上传了大量国内外影视综艺内容片段，但是否取得了这些天量视频的著作权使用许可？如果没有，那就面临极高的版权风险。

@法山叔 还在后续微博补充道，其协议本身就有违法律的基本原则……

ZAO带来的担忧还不止这些。
当下刷脸支付已经开始普及，ZAO的火爆使人担忧：在刷脸支付盛行的背景下，“换脸”后的小视频若落入他人之手，是否会危及刷脸支付的安全性？

类似技术曾用于不当用途，也有人建议不必担心

ZAO使用的开源代码“deepfakes”，最早曾被用在了情色电影的主角换脸。据媒体报道，此前在台湾，就有百名女生IG脸书等社交照片被人用DeepNude处理后上传不雅网站。因此，引发技术有罪还是技术中立的争论。

今年初，B站UP主“换脸哥”发布的一段94版射雕英雄传视频，原本饰演黄蓉的演员朱茵的脸被用“deepfakes”技术替换成了杨幂的脸，从流出的视频和动图看，虽然是用AI合成的，但是整体效果十分逼真。

▲饰演黄蓉的朱茵的脸被替换成杨幂

不过也有人认为不必担心。

上海金融与法律研究院研究员、经济之声特约评论员刘远举在“大家”撰文表示，ZAO并没有带来新增隐患，人类可以适应技术的风险。

ZAO之所以把用户协议写的“吓人”，其实是在“前车之鉴”基础上做的很强的自我保护。用户发出自己的换脸视频，本质上和发一张自己的自拍和视频，并没有本质的区别。一般人并不会成为大众的目标，被换头暴露在公众中。对于明星而言，这早已不是稀奇事了。

同时他还认为，技术不可阻挡，关键看用在什么地方。那些无法完全避免，或者完全避免并不必要的坏处，人类社会也能通过经验去适应。幸运的是，现在的修图技术，仍然做不到天衣无缝，“毫无ps痕迹”。至于视频，要做到完美则更难。

对于刷脸支付安全性的问题，也有支付宝和银行方面的回应称，“刷脸支付”采用的是3D人脸识别技术，同时在支付时往往还伴有其它验证方式。不必过于担心。

还有人担心的是：

你玩多久了？