ZAO的爆红与沦陷:AI换脸并不是一款APP那么简单

2019-09-29 投稿人 : www.shjiayou.net.cn 围观 : 1796 次

今年年初,B台UP主力“变脸兄弟”发布了94版《射雕英雄传》视频,取代了原本与杨幂一起演奏黄蓉的演员朱寅的脸,然后看了“黄荣“成为杨幂,吃瓜子只是叹气,太现实了,人工智能太强大了。

但是,当一个名为“ZAO”的人工智能变脸软件在社交网络上滑动时,用户只需要一个积极的面孔来用他们的面孔替换视频中的人物,并且人们发现事情已经失控。在发展方向上,虽然“变脸”技术门槛降低,但也暴露出许多隐患。

看到ZAO是一座高楼,看到它倒塌了

上周末,ZAO迎来了它的亮点,然后很酷。

ZAO的使用规则特别简单。用户可以通过上传照片,使用AI变脸功能,然后分享朋友圈,将视频的脸部改变为自己的脸部,声称“只需要一张照片,并且它可以在世界。”由于操作的方便性和“与偶像闲置”,ZAO迅速流行起来。 8月31日,#ZAO AI改变了脸#已迅速登上微博搜索列表,iOS商店中的应用程序下载量也攀升至娱乐。一级。

ZAO的突然脸红引起了广泛的关注,并且正在忙于“变脸”。内部人士了解了一些细节。 ZAO由海南卡特咖啡科技有限公司的子公司长沙深汇聚网络技术有限公司开发。同时,高管是莫莫的高管。虽然莫莫官方没有正式回应他与赵立的关系,但后来发生的一些事情是不言而喻的。

与此同时,ZAO的用户协议引起了对协议第6条第1款的疑虑:“在您上传和/或发布用户内容后,您同意或确保实际权利持有人同意授予ZAO及其联盟会员和ZAO用户在全球范围内完全免费,不可撤销,永久,可转让和可再授权,包括但不限于修改或编辑用户内容的全部或部分内容(例如短视频中的面部或声音)Switch对于他人的面子或声音等,并在修改前后传播有关用户内容的信息以及版权所有者享有的所有版权产权和邻接权。“

本文直接引用ZAO及其关联公司将获得用户上传内容的版权,包括脸部肖像!也是这个协议点燃了对ZAO的怀疑。

广泛传播的网络截图显示:“ZAO的用户协议太过分了”,“有手机号码,有面部肖像,通过技术综合,犯罪分子可以为你和你的家人谈谈。”

从那时起,ZAO的微信共享链接已经停止。该页面显示“该网页存在安全风险,并受到许多人的抱怨。为了维持绿色的互联网环境,访问已被停止“。许多网友评论了ZAO的官方微博,要求取消该帐户,删除本地脸,其在App Store的评级将从之前的4.6点降至1.9点。

用户面部信息泄漏导致监管关注

9月3日,ZAO用户隐私协议未标准化,存在数据泄露风险等问题。工业和信息化部网络安全局对北京莫莫科技有限公司(简称莫莫科技)负责人进行了调查和采访,要求他们自行办理支票和依法整改,收集和使用用户个人信息,规范协议条款,加强网络数据和用户个人信息的安全保护。

ZAO回应称,将严格按照法律,法规和主管部门的要求,严格按照更严格的标准加强内容管理,完善各种管理机制,确保用户的个人信息安全和数据安全。

在此之前,ZAO更改了这个有争议的用户协议,并添加了一个“特别提示”,即用户授权内容“仅用于为您提供上传/发布短视频和利用平台上的技术短视频将被部分修改以生成新的短视频服务。相关内容将严格按照相关法律法规保存在“ZAO”,除非您想改善“ZAO”提供的服务或再次获得您的同意。“ZAO”不使用以上任何形式或目的的内容。“

在其官方微博上,ZAO表示ZAO不存储个人面部生物特征信息;没有收集个人生物特征; ZAO不会产生支付风险;用户删除信息或取消帐户,ZAO将遵循相关法律。法规规定删除相应的信息。

ZAO并不平坦,AI面部变化技术被滥用

对于ZAO的问题,从更深层次来看,它实际上是一个关于AI面临变化技术的问题。用户在ZAO平台上上传个人信息。图像信息的高概率是保持不变的。它们将用于什么样的图像? AI面部识别或继续改变面子寻求更多的非法利益。

在二手交易平台上,免费的鱼应用程序,一些卖家通过AI变脸技术制作出流行的女明星不雅视频,进行销售。根据一则新闻报道,其中一位卖家表示他有100个视频,其中包括30多颗星,而一位类似的卖家称,75元包装中有40多位女性名人。

在这方面,中国政法大学知识产权研究中心特约研究员赵湛表示,卖明星面对不雅视频的行为无疑是肖像侵权行为,涉嫌构成名誉侵权行为。此外,它还涉嫌构成刑事犯罪。传播淫秽物品以谋取利益是犯罪行为。如果情节严重,可判处终身监禁。

早些时候,一个名为“deepfakes”的外国Reddit论坛用户首次在互联网上发布了他自己制作的人脸改变视频,并用Gail Plus取代了色情电影中的女主角。等待好莱坞明星。

欧洲和美国国家也率先认识到这项技术的弊端,而且监管也变得更加严格。微软已经取消了世界上最大的公众人脸识别数据库,不仅像Facebook和谷歌这样的技术巨头面临立法者和其他人对其隐私实践的强烈反对。

不可否认的是,随着刷脸支付,刷脸等的普及,在一定程度上对我们来说很方便,但生物识别数据是独一无二的。一旦被非法窃取,隐私泄露和其他问题将随之而来。 ZAO AI面临的变革带来的争议也提醒大多数制造商和监管机构,技术应始终用于使利益合法化。随着人工智能技术的快速发展,监管也应该到位。

澳门星际国际官网