返回顶部
今日    | 手机版 | 资讯 | 产品 | 企业 | 热点 | 商道 | 原料 |
返回首页
返回首页
home 您现在的位置: 首页 >行业资讯 > 详细信息
你还在靠"脸"吃饭吗? "AI换脸"给娱乐圈未来敲警钟,网络黑灰产"年产值"逾千亿元 群防共治铲除毒瘤
2019年09月03日    阅读量:801     新闻来源:中国机械网 okmao.com    |  投稿

在刚过去的这个周末,网络突然流行起了“AI换脸”。在各大影视作品的“名场面”中,陈冠希、谢耳朵、“小燕子”赵薇纷纷变脸成你身边的素人,而达成这一切,只需要在某个换脸APP上传一张自拍照而已。


现在的AI已经发展得这么厉害了?不少人惊叹中国机械网okmao.com。但事实上,换脸技术早已问世,并且绝不能算是AI技术的巅峰。但AI换脸对于部分行业尤其是影视行业来说确实具有警示作用——当演员的脸可以被轻松地替代,那个“靠脸吃饭”的时代就真的过去了。


A 集体模仿秀 素人初尝当明星滋味


AI是人工智能的英文缩写,它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。因此,所谓的换脸技术在整个人工智能的领域中只是沧海一粟。


但不论如何,AI换脸技术所蕴藏的巨大应用空间,在刚刚掀起的这阵集体“AI换脸”热潮中已初见端倪。在人们通过某APP分享的各种短视频中,他们自己成了各大影视作品“名场面”的主角。正在被舒服按摩着的你,闭眼发出了《天下无贼》中葛大爷的名言:“21世纪什么最贵?人才!”在皇阿玛的瞪视里,化身小燕子的你则委屈地背起了打油诗:“昨日作诗无一首,今日作诗泪两行。”虽然已有人提醒,类似的换脸APP或因没有影视作品或明星本人的授权,可能让用户身陷侵权风险,但这一“代入感”极强的娱乐产品还是迅速地广为传播。


在这次热潮中,人们“代入”的影视作品时长极短,通常只有十几秒。但是,这已足够让很多人初次尝到了当明星的甜头。更何况,相比起明星辛辛苦苦却只能拍到其中几部戏,你却能轻松地把所有经典影视作品的经典片段都“演”个遍,这是何等过瘾。


B 岂止换脸 AI能创造出不存在的脸


今年年初,B站有个ID为“换脸哥”的用户发布了一段1994版《射雕英雄传》的视频,其中黄蓉的饰演者朱茵,脸被替换成了杨幂,网友一时惊叹不已。此人所用的技术名为“deepfakes”,它源于2017年12月,一个ID为“deepfakes”的国外用户首次在Reddit论坛发布了类似的AI换脸视频。在他的影响下,该技术被迅速地广泛应用甚至滥用,甚至有人将国外女星的脸替换为成人视频的女主角。这些“被出演”色情影片的明星们,如斯嘉丽·约翰逊,站出来表示抗议,最后各大网站不得不撤下AI换脸视频,Reddit论坛还封杀了“deepfakes”的账号。没想到,这次封杀导致“deepfakes”直接开源了AI换脸的代码。从此,就连“电脑菜鸟”都可以在几个小时内做出一部换脸视频。


事实上,deepfakes虽然影响大,技术却并非顶级。早在2014年10月,前谷歌技术大神Ian Goodfellow就提出过一个名为GANs的技术,这是一种通过不断给予图像来进行的AI深度学习技术,可以直接创造出建筑、场景、人物对话和人脸等等。没错,它能直接生成事实上并不存在,但看上去却极度真实的人脸——这可比换脸高级多了。


C AI侵占娱乐圈 科幻作品已有展示


AI对于人类社会的影响,在很多科幻作品中都有体现。英剧《黑镜》第五季第三集《瑞秋,杰克和小小艾什莉》中,励志歌手艾什莉被经纪公司复制了大脑里的所有信息,制造出与她同名的聊天机器;此外,经纪人还一边用麻醉药让艾什莉陷入永久昏迷,一边用机器提取她在梦境中创作的歌曲,让她继续为公司创造价值……2002年的经典美国电影《西蒙妮》中,阿尔·帕西诺扮演的好莱坞导演维克多陷入事业和人生低谷,他觉得只要找到一名自己理想中的女主角,一切就会变好。这时,一个电脑天才送来了一套程序,维克多凭此创造出了一个“无可挑剔的女人”西蒙妮。维克多的影片大获成功,西蒙妮也成了大众偶像,拥有了无数崇拜者,越来越多的民众和媒体想探究西蒙妮究竟是谁,难以忍受压力的维克多最终选择“杀死”了西蒙妮。但包括警察在内,没人能够接受西蒙妮是虚拟造物的事实,维克多被控谋杀……


类似的作品都显示了一种对于AI侵占人类社会,包括娱乐行业的焦虑与思索。但事实上,随着商业性娱乐的过度发展、造星工业的日渐成熟、年轻人对二次元的愈发依赖,在未来社会,这样的威胁的确可能存在。事实上,某些个例已经发生,例如早在2007年日本首度出现了二次元歌姬初音未来,之后一大批虚拟歌姬陆续有来。中国选秀节目《明日之子》第二季中出现的组合Odyssey,除了四个真人,还有一个神秘的戴面具成员“帝”。据称,这就是一个二次元人物——虽然在现实中,我们看到的只是一个大活人寒碜地戴了一个面具。


【细思极恐】


当明星都成了AI 娱乐圈会变成怎样?


再也不用担心“人设”崩塌


在《瑞秋,杰克和小小艾什莉》中,经纪人创造出的“全息艾什莉”大受欢迎,真实的艾什莉醒来后的“转变”反而令一批粉丝大失所望。很显然,粉丝爱的只是她的虚假人设,而不是真实的她。


类似的悖论也“困扰”着如今的娱乐圈。在以杨天真的壹心娱乐为主角的真人秀《我和我的经纪人》中,朱亚文曾强烈抗议自己的油腻人设“行走的荷尔蒙”,因为这并非真实的他。经纪公司的商务主管则尖锐地批评他时不时展现出“家庭男”本色,影响其人设的统一性,从而减低了其作为明星的商业价值。设想,假如AI替代了真实的明星,类似的矛盾就再也不会出现。永远不用担心走“白莲花”人设的女明星或“深情男”人设的男明星,被爆出两性丑闻。影视公司也不用担心作品播出或公映前,突然爆出主角吸毒的新闻。人设一旦确立就不会改变,因为AI永远不会累,也永远不会错。


你的“爱豆”只为你而存在


你跟朱一龙并肩而行,听着他柔声表白:“你就是那个天地。”大庭广众之下你被绑,肖战一个箭步奔来:“母后!你要杀就先杀我!”……这些都是来自某AI换脸APP的视频片段,每个片段中,每个角色的脸都可以被换成用户的脸。除了一圆“演员梦”“明星梦”,这还是难得的跟爱豆“亲密接触”的机会——在过去,你或许千辛万苦都难见爱豆一面,如今却可以愉快地跟他谈一场恋爱,“有交往,有视频,有故事”。


当然,那时候类似朱一龙和肖战那样的真人爱豆或许已经很稀有了,“流量明星”已经被“流量AI”代替。完善的AI技术加上大数据,既能保证你的爱豆达到你偏爱的完美值,还能保证他永远都不会长斑长皱纹。爱豆也不会官宣恋爱或结婚,他在技术为你定制的完美世界里只属于你,连说情话的口音都是你熟悉的家乡味。2013年的电影《她》曾对这种AI与人类的关系进行的罗曼蒂克的畅想:一名孤独的男子,爱上了有着斯嘉丽·约翰逊嗓音的人工智能。


真正的艺术无法被替代


那么,是否在AI的世界里,真正的艺术和艺术家就不存在了?当然不,只有可被替代的,才终究会被替代。AI的学习对象归根结底是人类本身,所以能超越AI的还是人类自己。


事实上,能够写歌词、写谱子甚至写剧本的人工智能程序早就被开发出来,只是眼下还不够完善。随着技术的发展,它们或许能跟AI偶像一样,渐渐达到大众消费所能接受的及格水准。这些“虚假的大路货”是否能大行其道,还要看作为消费者的人类自身是否真的要求如此之低。如果有更多的人说“不”,那么就能给真正的艺术留下一席生存之地。起码,那些艺术家们能退守剧场,为那些仍然留恋人类之间真实情感交流的受众而继续演出。


如若不想一败涂地,或许,从今天起所有的娱乐圈创作者们——无论台前还是幕后——都应该开始警醒。只有以“一直被模仿,从未被超越”的标准来要求自己,不断提高自身艺术价值的含金量,才有可能赢得这一场人类与AI在未来大众娱乐市场的争夺战。




  ● 传统的犯罪类型正在蜕变,在“互联网+”模式下,大量新的具有互联网特性的犯罪产生,不但破坏了互联网产业,还给社会治理带来巨大挑战


  ● 在治理网络黑灰产的过程中,相关法律规范缺失、监管与打击力度偏弱、取证难和维权难等问题不容忽视


  ● 创新安全技术、提高违法成本,才能实现源头治理,有力震慑网络黑灰产从业者。互联网企业、平台、行业协会、网民群体也要群策群力,形成反击网络黑灰产的群防共治系统工程


  如今,网络黑灰产已不再局限于半公开化的纯攻击模式,而是悄然转化为敛财工具和商业竞争的不良手段,利润之高令人咂舌,相关统计数据显示其“年产值”逾千亿元。


  频频曝出的网络黑灰产事件,尤其是那些从线下转向线上的违法犯罪活动,在套上“网络的外衣”后更具隐蔽性。


  近期,公安部研究部署防范打击整治跨境网络赌博活动相关工作后,有赌博网站充值点藏身知名电商平台的消息旋即曝出。不法分子通过在平台上注册“空壳店铺”套取网络收款码,再以虚假交易、分包垫资等手段,为赌客充值,向赌博网站输送资金。


  在警方与一些电商平台的联手狙击之下,这类店铺的生存空间正在被无限压缩。


  多位专家在接受《法制日报》记者采访时坦言,网络黑灰产已成为为害全球的毒瘤,然而受制于法律规定模糊不清、取证难、维权难等问题,这一毒瘤的去除并非易事。亟待将相关行为纳入有效的法律规制,在政府治理之外,充分发挥互联网企业、平台、行业协会、网民群体等主体的作用,形成反击网络黑灰产的群防共治系统工程。尤其要调动平台的积极性,赋予平台相关的监管职责。


  网络黑灰产类型多


  线上违规不易察觉


  随着网络的发展,网络黑灰产的外延只增不减。


  华东政法大学教授丛立先直接将网络黑灰产界定为“互联网上存在的黑色、灰色产业链”。从大的类别上讲,网络黑灰产分为黑色产业链和灰色产业链两种,黑色产业链是已经定性为违法犯罪的产业链行为,灰色产业链则是指游走于违法犯罪与法制缺漏模糊领域的产业链行为。


  广西民族大学教授齐爱民则将其细化为“电信诈骗、钓鱼网站、木马病毒、黑客勒索等利用网络开展违法犯罪活动的行为”。通常而言,黑产主要包括“黑客攻击”“盗取账号”“钓鱼网站”三类违法活动;灰产主要是指处于法律灰色地带的“恶意注册和虚假认证”。


  网络黑灰产的范围很大,类型更是数不胜数。中国政法大学副教授朱巍举例说,涉及个人信息的黑灰产,流量造假的黑灰产(如广告联盟中的虚假点击、僵尸粉的买卖、舆论谣言的侵权和PR公关信息的传播)以及利用互联网服务把线下的一些违法违规服务转移到线上,如线下不允许卖淫、嫖娼,到了线上通过互联网直播刷礼物加微信等一系列操作,将相关行为转移到线下,或者线下不允许烟酒类、与性有关系的产品、一些保健类食品等做广告的,到了线上做这些广告则没人管。


  将电商和黑灰产有机结合在一起的网络黑灰产更具隐蔽性。近日由广东警方披露的一起案件,充分体现了这一点。


  一家开在拼多多上的网店,从表面上看,买家下单、卖家发货、买家确认收货、卖家收款等常规交易流程一个都不少,甚至这家店的货走量还很大;但实际上,在这一切电商交易的背后,都隐藏着一个“见不得光的生意”。


  这个生意就是博彩。《法制日报》记者了解到,其具体操作模式是这样的:不法分子通过后台操作系统,将一些跨境非法博彩App与电商平台的店铺相对接,博彩参与者即可通过微信支付、支付宝等方式充值注入赌金,参与赌博。


  “在一整套看似合法的购物流通环节中,其实商家与客户并没有进行实质性的交易,其交易行为纯属虚假交易,严重破坏了市场正常的商品流通及金融秩序。”广东省和平县警方说。


  据广东省和平县警方消息,被移送审查起诉的6人中,张某进作为老板指示李某为团伙提供技术支持,实现店铺批量下单、自动发货功能;冯某等4人负责寻找批量身份证信息来办理相关的银行卡。  


  张某等人的操作首先引起了平台方拼多多的注意。此前,拼多多上线“可疑信息实时巡查系统”,从商户入驻上传商品开始,系统便对相关交易额、频次、时间、购买用户等进行多维度建模,协助警方对平台可疑店铺、交易进行常态化巡查,及时发现涉案线索并保存证据,深挖违法行为背后的组织者、经营者、获利者。


  随后,拼多多与警方通力合作,一举破获了这起以电商平台为依托开设网络店铺从事非法交易的网络黑灰产案。活跃在广东省惠州市一带的张某等15人被警方抓获,高达800多万元的资金被冻结。


  “传统的犯罪类型正在蜕变,通过‘互联网+’模式催生了大量新的具有互联网特性的犯罪。”齐爱民说。


  黑灰产规模近千亿


  成为经济社会毒瘤


  据南都大数据研究院等机构发布的《2018网络黑灰产治理研究报告》估算,2017年我国网络安全产业规模为450多亿元,而黑灰产已达近千亿元规模;全年因垃圾短信、诈骗信息、个人信息泄露等造成的经济损失估算达915亿元,并且电信诈骗案每年以20%至30%的速度增长。


  “网络黑灰产的危害很大,特别是其中的黑产业链,不但对互联网产业产生极大的破坏作用,也给经济社会治理带来巨大挑战。如果治理不利,将给国家和社会秩序的有效维护带来很大的麻烦。”丛立先说。


  就连刚刚成功狙击了网络黑灰产的拼多多,也曾经掉入被网络黑灰产“薅羊毛”的坑。


  1月20日,拼多多平台出现了一场“薅羊毛”事件。有网友发现,利用平台漏洞可领取100元无门槛优惠券,以低至0.46元的价格购买到价值100元的商品。部分拼多多用户在网上发布漏洞消息,晒出话费、Q币充值截图等“作业”后,引起大批“薅羊毛”行为。


  对此,拼多多平台第一时间修复漏洞,收回了用户领取且尚未使用的优惠券,对已购买的商品,建议终止物流派送。同时向公安机关报案,称将积极配合相关部门对涉事黑灰产团伙予以打击。


  拼多多并非第一家被“薅羊毛”的平台。此前,万豪酒店出现酒店订单bug价;去哪儿网、东航因系统失误而出现的超低价机票订单;100美元一晚的Airbnb(爱彼迎)预订,用100元人民币也可以支付的汇率bug……


  值得注意的是,在这些“薅羊毛”事件中,总少不了三个群体:一是偶尔利用平台漏洞捡漏的普通用户;二是明知是漏洞却依旧多次“薅羊毛”的“羊毛党”;三是以此谋利的黑灰产团伙。其中,第三类群体的社会危害性最大,因为其往往和违法甚至犯罪联系在一起。


  治理难题不容忽视


  创新技术源头治理


  近年来,在相关部门加大对网络黑灰产打击力度、取得积极成效的同时,有关黑灰产治理的难题与困境也暴露出来。


  首先是相关法律规范存在缺失,亟待完善。丛立先认为,由于网络黑灰产包括的范围很广,因此并没有一个专门的统一规定来规制网络黑灰产。从法律规定来看,刑法、网络安全法、治安管理处罚法等法律法规对其有当然的规制职责。从有效治理的角度看,今后可通过政府政策性文件、部门规章等形式对网络黑灰产进行系统的政府治理。“要把黑灰产的黑色、灰色产业链行为纳入有效的法律法规规制之下,解决在此方面法律法规针对性不强和有所缺漏或迷糊不清的问题。”


  齐爱民所担心的是,在网络黑灰产产业链中,有些行为逐渐纳入了法律规制的范围内,但有些还处在法律边缘,“对平台和监管部门来说,都难以界定”,比如注册账号、养号的问题。“这些行为往往是要发展下游犯罪的,在规制层面,由立法公权介入规制还是由平台进行禁止,还需要再讨论。”


  其次是依法监管与打击的力度亟待强化。丛立先认为,执法部门的整体水平上还有进一步提高的空间。存在的主要问题是治理思路不够清晰,工作方式被动性大于主动性。还需解决治理部门众多而又交叉、多头管理、权责不清的问题,“应进一步明晰管理部门的监管权责”。


  取证难作为执法难题尤其需要引起重视。齐爱民说,很多网络黑灰产虽然在国内开展业务,但已经把从业人员和服务器等转移到国外,或者使用国外手机号,行为人在国内进行违法活动,这些已经是一些常规操作。现在,还有一些犯罪分子使用云服务器,这些云服务器很多是租用美国或者欧洲等在境外的云服务器,服务器设在境外意味着侦查部门需要国外企业及执法部门配合,所以云端取证也是目前公安侦查取证的一个大难题。


  随着人工智能等技术的发展,取证难也随之升级。比如,通过人工智能技术识别平台中图形验证类的文字、数字来帮助犯罪分子注册大量虚假账号,或者通过模拟真实用户操作,逃避平台的甄别和监管,以此留住账号。


  齐爱民认为,创新安全技术才能实现源头治理。同时,打击黑灰产是一个成本博弈问题,提高违法成本将有力震慑网络黑灰产从业者,在与黑灰产博弈的过程中,让违法者的违法成本大幅提升。


  值得注意的是,在对网络黑灰产的打击中,平台是一支过去被忽视的重要力量。


  丛立先认为,除了政府治理之外,互联网企业、平台、行业协会、网民群体也要群策群力,形成反击网络黑灰产的群防共治系统工程。


  “对网络黑灰产的治理,一个非常重要的具体手段是调动平台的积极性,赋予平台相关的监管职责,充分发挥平台对于平台上的产业链的主体作用。”丛立先说,让平台在商户、用户等平台主体的监管权责上更有自主性,让平台在网络安全、信息数据的控制和流动上担负更多的职责,监管部门对平台采取信任的态度和监督的方式,而不是过多插手平台上的具体产业链管理行为。


  齐爱民认为,作为网络平台,一方面可以从数据安全保护的角度出发打击黑灰产,按照有关法律、行政法规的规定,参照国家网络安全标准,履行数据安全保护义务,建立数据安全管理责任和评价考核制度,制定数据安全计划,实施数据安全技术防护,开展数据安全风险评估,制订网络安全事件应急预案,及时处置安全事件,组织数据安全教育、培训。


  另一方面,平台需自主研发创新的安全保障技术,构建可信、智能、合规的云安全平台,并协同生态伙伴和企业共建安全生态。将信用引入到整个网络安全管理的体系中。比如,政府和企业之间、企业和企业之间,建立更多的信用互通,让违法分子为从事黑灰产付出应有的代价。


  平台在治理黑灰产方面已展现出独特优势。


  以拼多多为例,据拼多多平台治理负责人盾山介绍,在技术方面,拼多多将分布式人工智能等技术应用于黑灰产治理领域;平台对入住商家的资质审核要求严格,审核时所有主体必须符合人脸识别等活体检测标准,一旦出现异常,在事后溯源时可以向执法部门提交完整资料;此外,平台还上线了实时对接支付机构的系统,这意味着一旦平台上报可疑商铺的信息,支付机构可以做到即时处理,而在以往大概需要24小时。


标签:行业资讯机械应用人工智能市场评论机器人配件与装备
免责声明: 本文仅代表作者本人观点,与本网无关。本网对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。本网转载自其它媒体的信息,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。客服邮箱:service@cnso360.com | 客服QQ:23341571

全站地图

深圳网络警察报警平台 深圳网络警
察报警平台

公共信息安全网络监察 公共信息安
全网络监察

经营性网站备案信息 经营性网站
备案信息

中国互联网举报中心 中国互联网
举报中心

中国文明网传播文明 中国文明网
传播文明

深圳市市场监督管理局企业主体身份公示 工商网监
电子标识