返回顶部
今日    | 手机版 | 资讯 | 产品 | 企业 | 热点 | 商道 | 原料 |
返回首页
返回首页
home 您现在的位置: 首页 >机器人>高端访谈 > 详细信息
AI换脸App火爆全网 创业公司盯上新赛道,AI"换脸"游戏看似有趣 你知道"丢脸"的后果吗?
2019年09月03日    阅读量:1444     新闻来源:中国机械网 okmao.com    |  投稿

  一个名为ZAO的AI换脸App突然火爆全网,不少网友把自己“换脸”成《小欢喜》《陈情令》等热门电视剧中演员的小视频分享到社交平台。但ZAO受到年轻网友喜爱的同时,其安全性及隐私性问题也引发了广泛关注和讨论。9月1日,ZAO的微信分享链接被停止访问,但用户还是在朋友圈分享“换脸”视频中国机械网okmao.com


  ZAO并非国内第一款AI换脸App,在IOS和安卓应用市场搜索“AI换脸”主题,还有“AI换脸”“颜技”“团子相机”等内容。


  颜技App负责人杨冀告诉记者,“颜技”由他的团队从2018年6月开始制作,借用了国外网络论坛上用户“deepfakes”的底层模型,加上自主研发的全新算法后制作,于今年4月1日上线,是国内第一个AI换脸App。


  杨冀表示,颜技App一上线,就有陌陌科技公司战略投资部的团队前来接触,拿走了商业计划书,但聊了9天以后并未达成合作;今年8月9日,他在发布内测版的ZAO App中看到了类似的功能和描述。


  “我们开创了这个行业的赛道,然后有人就跟进来了,这是好事儿。”杨冀说。


  杨冀介绍,自己是80后,从小对互联网感兴趣,在1998年还是高二学生的时候就给学校做了官方网站;后来一直从事互联网“从0到1”的创业,包括医药、艺术品等电商网站,以及与影视相关的网站。杨冀说,因为自己对运营、设计等互联网各岗位都很了解,又积累了影视行业资源,所以想到制作一个AI换脸的App。


  在团队构思时期,杨冀就认为这个App一定会很火爆,“主要是抓住了年轻用户喜欢新奇事物的心理,抖音、快手等视频App同质化严重,美颜、挂件等其实都没有突破;而我们用逆向思维设计,它的新奇性、扩散性和口碑传播方式都符合互联网的爆点。”与ZAO等换脸App略有不同,颜技App的口号是“与明星同台”,即满足用户的表演欲望,“用户中有不少是大V、网红,还有来磨练演技的三四线演员”。


  关于社会广泛关注的安全性和隐私性问题,杨冀表示,颜技App的用户协议十分“友好”:用户可以在不提供真实姓名、身份证号码、电话号码和位置信息的前提下玩“换脸”,也可以管理、撤回上述授权。“如果别的App中的隐私授权是默认允许,那就不太友好了。”杨冀表示。


  上海某高校大四学生小徐在朋友圈发了一条把自己换脸成“方一凡”的视频,他告诉记者,自己和身边不少朋友是为了“尝鲜”去玩换脸App:“觉得这个技术很神奇,以前还没有看到过App能把视频里的人脸换掉的,所以就玩玩试试。”


  朋友圈里有点赞也有提醒,他意识到把自己的照片上传可能存在隐私问题,很快删除了视频和App,还在同一条朋友圈下评论:“面部很重要,大家不要随便玩,用户协议有风险。”


  ZAO的App功能介绍显示,用户只需上传一张照片,就可以制作出网络热门表情包、出演经典电影,还能和偶像飙戏。同时,ZAO的用户协议提到,用户发布内容前,统一授予ZAO及其关联公司完全免费、不可撤销、永久、可转授权等权利。更有不少网友在“ZAO官方助手”的微博下留言,反映无法收到手机验证码,因而无法注销账号。记者在微博私信“ZAO官方助手”,询问上述问题如何解决,至今未得到回应。


  在上海从事创投行业的90后小龚告诉记者,除了融入经典视频的“带入感”,职业属性也驱使自己尝试新鲜事物,身边玩ZAO App的基本都是同行。关于其用户协议,他表示“不用读,要求输入手机号时就意识到后续报道中的一系列情节了”,但“我还是注册了,简直有种深入虎穴做卧底的感觉”。


  小龚把ZAO App分析了一番。他表示,换脸App可以是创业者众包图像的一种很好方式,但至于怎么用就看公司的道德底线了。他认为,就像埃隆·马斯克在人工智能大会上与马云所说,自己只能希望AI是个好事物,“虽然知道绑定手机和人脸泄露隐私等风险存在,但也想尝试一下看看能有多坏。很多创业公司刚开始的想法可能会有很多问题,然而也许创业成功的方式也就是野蛮快速崛起之后再思考整顿方法,这点容忍度我给了”。





一款基于人工智能技术的“换脸”APP走红网络。使用者只要上传自己的高清照片,即可将本人面孔与大量影视片段中的明星面孔置换。既可以自己过明星瘾,又可与心爱偶像“同框”出演,大量年轻用户选择将自己面孔上传网络,“换脸”娱乐。


  新华社记者发现,如此“换脸”,用户面部生物特征信息被盗或失控的“丢脸”风险不小。该款APP用户协议中载明:用户一旦上传自己的照片进行视频“换脸”,将在全球范围内完全免费、不可撤销地将包括人脸照片在内的肖像资料授权给该公司和其关联公司。虽然此后相关企业在舆论压力下,对其用户协议进行了部分修改,但风险依然存在。


  一旦“丢脸”,我们将面临哪些风险?漏洞又该如何堵上?新华社记者就此展开调查。


  风险一:“丢脸”能导致“丢钱”


  当前,大部分银行等金融机构开设了人脸识别登陆APP功能。“刷脸”支付甚至是远程签约等场景也越来越多见。如果用户的“脸”不安全,“钱”也将面临莫大风险。


  企业通过用户协议等手段取得的用户面部识别信息面临被泄露风险。据记者了解,今年2月,国内某面部识别公司的数据库发生信息安全事故,数百万条个人信息被泄露;8月,欧洲一家公司发生大规模信息泄露事件,数百万人面部识别信息被泄露……公众面部信息被滥用风险增大。


  记者在一些知名网购平台输入“人脸面具”“硅胶头套”等关键词,发现有不少商户出售“人脸头套式面具”,其中一些甚至可以按客户提供照片定制。记者获知,通过3D打印等技术,“人脸面具”可以获得较高仿真度,且面部识别数据越详实仿真度越高,对以面部识别信息作为密码账户的突破力就越强。此前已有人使用3D打印面具通过某知名网络支付平台面部验证。


  “贸然将自己的清晰正面照上传并授权他人进行存储或另作他用,关乎‘钱袋子’安全。”中央财经大学金融法研究所所长黄震认为,目前法律对“AI换脸技术”规范不足,因此保护好自己的面部信息在当下十分必要。他建议,有关部门应加快推广相关技术规范落地应用。


  记者从多家已启用人脸识别功能的金融机构处了解到:当前金融机构设置的人脸识别安全等级高于智能手机相关功能,但由于不少交易场景中识别标准并不统一,因此风险仍在。多名专家建议,用户将面部识别设置为财产账户密码时,应同时设置其他验证办法,减小风险。




  风险二:“丢脸”能导致“丢清白”


  当前,“换脸”技术被用在一些涉嫌违法犯罪领域的情况已不少见。记者发现一些网站用“AI换脸”“换脸视频”等方式提供用知名艺人“面孔”“嫁接”出的视频。这些视频往往涉嫌色情淫秽,且难辨真假。另外,记者在QQ群和百度贴吧中以“换脸”和“换脸视频”为关键词检索发现,有不少社交群组打着“技术交流”幌子兜售此类“明星换脸”视频。


  知情人告诉记者,除贩卖“换脸”非法音视频产品牟利外,一些不法分子还利用手中掌握的贷款人人脸信息,以此类技术进行非法催收活动,直接侵害贷款人人格权、名誉权,甚至滋生出敲诈勒索等其他严重犯罪活动。


  北京师范大学网络法治国际中心执行主任吴沈括认为,AI“换脸”法律风险点多,从现实案例看,名誉侵权是高发问题。尤其是恶意拼接制作侮辱性、污蔑性视图素材或者予以非法传播、利用的,将对受害人造成的伤害难以及时发觉且极难有效救济,需要有关部门高度关注、积极预防。他建议,由于该领域技术性强,相关企业众多,规模大小不一,应强化职能部门监管力度,杜绝选择性事后执法,建立全行业全流程公平监管,依法严惩违法违规主体,打造稳定、良性的可预期市场环境。




  风险三:“丢脸”能导致“被贷款”


  有过网贷申请经历的人对于“点点头”“摇摇头”“张张嘴”之类的动作也许并不陌生。借贷者在录入身份信息后,网贷机构会对申请人进行“活体检测”,以确保放款对象为本人,把关借贷安全。但记者发现,一些基于相关技术的修图APP能够“起死回生”,让静态面部照片模仿生物活体“动”起来。


  记者使用一款知名修图软件,载入一张包含人物面孔的照片后使用其“3D塑颜”的功能,图片中的人物便能按记者需要完成“上下点头”和“左右摇头”等“动作”。


  在另一款宣传语为“让你的照片活过来”的APP中,只要载入一张包含人物面孔的照片,就可以一键让照片中的人物“开口说话”。记者发现,使用者还能利用该APP决定说话内容,并可对录入声音进行声线处理,调整音色音调,视听感觉十分逼真。


  有业内人士告诉记者,目前不少网贷机构进行“活体检测”时仍使用人工审核或技术含量偏低的机器审核,一旦公众的面部识别信息被不法分子掌握,用这些黑科技“活”过来的面孔,很可能以假乱真,让不知情者“被网贷”背上巨额债务。此前“3·15”晚会上就有人演示用“活”照片成功突破某款手机的“刷脸”登陆系统。记者还发现,在苹果和安卓手机商店中有不少利用AI“换脸”类APP供人挑选。


  中国信息安全研究院副院长左晓栋认为,随着AI“换脸”使用场景更丰富,行业和监管部门应当研发相应的“反换脸”检测技术,来筛选相关视频是否由“换脸术”完成。他建议,要加快建立人工智能算法的安全评估制度,对不同场景下AI“换脸”技术进行评估,解决相关技术滥用问题。


标签:行业资讯产品资讯高端访谈机械商道机械应用人工智能市场评论机器人配件与装备
免责声明: 本文仅代表作者本人观点,与本网无关。本网对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。本网转载自其它媒体的信息,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。客服邮箱:service@cnso360.com | 客服QQ:23341571

全站地图

深圳网络警察报警平台 深圳网络警
察报警平台

公共信息安全网络监察 公共信息安
全网络监察

经营性网站备案信息 经营性网站
备案信息

中国互联网举报中心 中国互联网
举报中心

中国文明网传播文明 中国文明网
传播文明

深圳市市场监督管理局企业主体身份公示 工商网监
电子标识