zao隐私风险巨大 换脸背后的用户协议你看懂了吗?

时间:2020-06-11 16:39:40       来源:北京日报

一款名为“ZAO”的App软件一夜之间爆红,并在今早登上了微博热搜。

但这个号称“仅需一张照片,

出演天下好戏”的软件

很快就因存在隐私风险等问题

现象:换脸软件ZAO刷屏

30日晚间开始,一款名叫ZAO的应用软件火遍社交网络。用户可通过上传自己的照片,用AI换脸功能,将影视剧中的演员换成自己的脸,然后把小视频分享到朋友圈。

今年大热剧《小欢喜》、《陈情令》、《亲爱的热爱的》中的名场面在ZAO中均可体验。

ZAO App的功能介绍显示,可以用你的脸制作表情包,出演经典电影,跟偶像飙戏等。

这款App功能极简、难度极低、口碑发酵速度极快,如之前的“脸萌”一样,成为又一款现象级应用。不少网友很快跟风下载,并在网上晒出了以自己为主角的视频片段:

一秒钟变李现

一秒钟学会跳舞,占据C位

还能唱跳、Rap、打篮球

和明星“谈恋爱”,瞬间圆梦

据悉,8月30日晚间,“ZAO”官方微博称,“这个月花700万租的服务器,今晚已经消耗1/3了。明天如果继续火爆,我们只能做严格一些的限制。”

8月31日下午14时,“ZAO”在苹果应用商店App Store的在免费App的下载排名中已跃居第二。

由于ZAO的爆火,在使用时多次出现“当前服务器制作量过大,请稍后再试”的提醒。

背后:ZAO从股权和创始人都指向陌陌

不过,ZAO也并非生而能红,App Store更新记录显示,该应用在三个月前上架了第一版0.2版本,目前的1.1版本已是第三次更新。

在APP商城上,ZAO的开发商显示为长沙深度融合网络科技有限公司。该公司为海南喵咖网络科技的全资子公司,而海南喵咖网络的两个的实际控制人为雷小亮与王力(分别占股50%)。

雷小亮是著名线上交友APP“陌陌”公司的联合创始人,王力则同样是“陌陌”公司的联合创始人兼COO。换句话说,ZAO背后其实就是“陌陌”。但是对此消息,陌陌官方目前尚未置评。

争议:安全性和隐私性引热议

虽然ZAO走红网络,但关于换脸的安全性及隐私性问题,很快引起了社会的广泛讨论和关注。

其用户协议条款也引发争议,有网友担心个人信息泄露。记者注意到,其用户协议中写明,用户发布内容前,统一授予ZAO及其关联公司完全免费、不可撤销、永久、可转授权等权利。

有网友担忧:“犯罪分子可以替你和家人通话了”“不怕支付宝被刷脸吗?”

8月初,有人利用3D人头模型破解刷脸支付的消息传出后,一度引发用户担忧。如今,一键换脸技术如此成熟,引发人们为人脸支付、人脸解锁等技术的担忧。

央行科技司司长李伟近日曾对外表示,人脸是非常敏感的个人信息,一旦被泄露和盗取会带来非常大影响。可能会造成隔空盗刷等问题,“有技术不能乱用”。

同时,还有网友表示,用户协议中还写明,若用户违反协议导致第三方受损害,用户应当独立承担法律责任并承担赔偿责任。

此外,该软件还涉及版权风险。ZAO上传了大量国内外影视综艺内容片段,但是否取得了这些天量视频的著作权使用许可?如果没有,那就面临极高的版权风险。

最后,ZAO的极简功能通常很容易被玩腻,是否也只是火爆一时随后销声匿迹?

专家:监管随之而来

ZAO的出现说明了什么?清华大学教授沈阳认为:

一是我们从P图时代进入到P视频时代;

二是未来短视频不需要拍摄,只需要授权即可大规模自动生成。我们可以看到网红和背景的任意融合。

三是人工智能代码开源让技术的世界更平。

四是肖像权将成为焦点。

五是假新闻假视频毫无疑问在未来将更加便利制作。

六是强监管随之而来。

也有业内人士提醒,不要盲目跟风。

链接:AI换脸早在2017年就火爆全球

早在2017年12月,国外某ID名为“deepfakes”的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上,它能够把照片和视频中的人脸替换成任何想要替换的人脸,且效果十分逼真,有些肉眼甚至难以分辨真假。

▲deepfakes在Reddit上上传的部分换脸视频

而AI换脸真正在国内火起来还要说今年年初,B站UP主“换脸哥”发布的一段94版射雕英雄传视频。

视频中,原本饰演黄蓉的演员朱茵的脸被用“deepfakes”技术替换成了杨幂的脸,从流出的视频和动图看,虽然是用AI合成的,但是整体效果十分逼真。

AI换脸技术火爆的背后可谓是隐忧重重。国内外都有用户使用该技术进行明星人物的换脸恶搞、甚至生成虚假视频——比如今年6月时,Facebook首席执行官马克扎克伯格的一段被篡改过的视频浮出水面,在视频中他对该公司的用户数据隐私提出了质疑。

更有甚者,目前AI换脸黑产已经在国内形成了完整的产业链,从下游成品情色视频、中游定制视频到上游软件及教程都有提供,有的卖家甚至提供全产业链产品和售后服务。

关键词: zao隐私风险