返回顶部
返回首页
返回首页
欢迎访问  中国机械网   | 今天是   
中国机械网全新改版进行中! 我的订单 | 会员中心 | [ 登录 ] | [ 注册 ]
中国人工智能数据和应用场景占优,原始创新不足,谷歌发布TensorFlow,用于测试人工智能模型的隐私保护,中国机械网,okmao.com
home 您现在的位置: 首页 >会议资讯 > 详细信息
中国人工智能数据和应用场景占优,原始创新不足,谷歌发布TensorFlow,用于测试人工智能模型的隐私保护
2020年06月29日    阅读量:174    新闻来源:中国机械网 okmao.com  |  投稿

为期4天的第二届北京智源大会闭幕,世界人工智能领域顶尖专家线上相聚,就如何构建多学科开放协同的创新体系等问题进行了交流。


  会议期间,中国科学院院士、北京大学教授、智源研究院数理基础方向首席科学家张平文接受了新京报记者专访。


张平文:中国人工智能数据和应用场景占优,原始创新不足

  中国科学院院士,北京大学教授、智源研究院数理基础方向首席科学家张平文中国机械网okmao.com


  张平文指出,在人工智能领域,中国在数据和应用场景方面占据优势,但原始创新不足。他表示,数学对原始创新来说比较重要,一定要开放思想,让学生、特别是优秀学生到国际上最好的地方深造,“读完再回来,这样我们才能真正提高。”


  北大数学人才不是培养出来的,而是保护出来的


  新京报:在人工智能领域,我国基础研究有哪些优势,还存在哪些不足?


  张平文:目前,这方面中国仅次于美国,世界排名第二。 我国优势主要体现在两点,一是数据,AI非常依赖数据,我国人口多、数据多,占有极大优势;二是应用场景丰富,国家重视并在政策上给予了最大力度支持。


  在AI方面,我国与美国的差距就在基础研究上,基础研究与人才培养是天生匹配的。大学做什么?大学就是要培养这方面的人,这是第一项任务。


  第二项任务是在“最基础”上有所突破,提到原始创新,数学就重要了,华为与北大建立了数学联合实验室,招走了我特别优秀的学生,这些学生到哪所大学都能成为教授。


  新京报:在教育部多次学科评估中,北大数学均名列全国首位。北大培养数学人才有什么特色?


  张平文:北大数学人才不是培养出来的,而是保护出来的。


  首先需要了解什么样的人适合学数学,第一必须感兴趣;第二有天赋;第三要有情怀。情怀怎么讲?做基础研究,发很多文章没意思,一定要去关注“大问题”。


  比如,人工智能在下围棋、人脸识别、自动翻译等领域已经超过人类,我们希望它可以用在更广泛领域,但目前还做不到,其中重要原因之一就是它具有不可解释性,这就是“大问题”。


  解决“大问题”,一辈子做不出成果的概率是99.9%,甚至更高。一辈子不会出名,一辈子不会致富,但还要做,这叫情怀。情怀需要靠环境慢慢养成,他们聪明,想赚钱也容易,怎么让他们不受外界影响,是我们的责任,这就是保护。


  我认为,虽然不能让专心搞科研的人过得奢侈,但至少要能过上体面的生活。北大数学吸引人才,提供的待遇是有天花板的,而智源研究院做的事情,正是提供经费支持,让优秀的人才能够在北京不为钱财所困,另外,智源研究院还把不同领域的人团结在一起,提供了好的科研环境。


  新京报:由于特殊情况学生去国外求学受阻,研究生会不会扩招?


  张平文:已经扩招了,今年数学学科专门跟学校打报告,校长特批,研究生增加了一定比例的招生名额。让学生继续深造,这也是保护,所以说,北大数学人才是保护出来的,这种保护体现在方方面面。


  让优秀学生到最好的地方学完再回来


  新京报:北大数学科学学院有中国、乃至世界上最好的本科生,在高层次人才培养上,是否存在人才外流情况?


  张平文:我不认为这叫人才外流,眼光要看得更远一点,他们去美国或者欧洲读博,没什么不好。 让他们到水平更高的地方学习,将来我们要招人,才能有的招。


  即便现在北大数院已经做得很好,但跟美国最优秀的前5所大学相比还存在差距,这主要体现在研究生培养阶段。以前,北大数院有40%的学生去国外读研, 今年受新冠肺炎疫情影响,很多学生不出去了,想在北大继续深造,其实我并不是很开心。


  一定要开放思想,越困难越要开放,想办法让学生、特别是优秀学生到国际上最好的地方学习,读完了再回来,这样我们才能真正提高。国际交流对国家发展,对学科发展,对人才培养都非常重要,特别是高端的国际教育。


  新京报:马上就高考了,您对有意向选择数学专业的学生有何建议?


  张平文:孩子们不管学什么,第一要喜欢,兴趣最重要;第二看环境,找到志同道合的人。挣钱排在第三位,但是也不能差太多。我觉得,人一辈子最幸福的事情是所学所做都是感兴趣的东西,北大工资并不是大学里最高的,为什么还有很多年轻人愿意来北大工作,因为北大数院有全世界最好的学生,特别是本科生。


  新京报:提到薪资,现在社会上有一种现象是人工智能热,有报道称相关从业人员年薪动辄几十万甚至上百万,您怎么看?



  张平文:大数据和人工智能领域,确实工资要比其他领域高,进入阿里、腾讯和华为等公司,在这个领域赚钱比其他公司要容易。


  现在北大数院的学生,要么坚守情怀做数学研究,工资可能不太高。要么进入社会参加工作,其中有两个主要去向,大部分人选择大数据和人工智能领域,还有一部分人进入金融领域。我的博士毕业生走出校园工资比我高,这是常有的事。


  新京报:北大数学科学学院招生政策今年是否有变化?


  张平文:我们从2018年开始开设数学英才班,招收普通高中二年级以下学生,每年招生30个人,今年招生计划仍然保留。


  另外,教育部推出强基计划,就是要加强基础学科人才培养,数学是基础的基础。讲个简单道理,学完数学选择空间很大,比如我们的学生,本科学数学,研究生方向有的选择物理,有的选择经济,有的选择计算机,这就是基础的重要性。



谷歌发布了隐私保护TensorFlow工具包,可以评估各种机器学习分类器的隐私属性。谷歌表示,它旨在成为一个隐私测试套件的基础,不管AI开发者的技能水平高低都可以使用它。

中国人工智能数据和应用场景占优,原始创新不足,谷歌发布TensorFlow,用于测试人工智能模型的隐私保护 中国机械网,okmao.com


当前,各种人工智能隐私技术仍然是社区内争论的话题,但还没有一个规范的指南来建立一个私有模型。而越来越多的研究表明人工智能模型可以泄露训练数据集的敏感信息,从而产生隐私风险。TensorFlow隐私保护所采用的缓解方法是差分隐私,它在训练数据中添加噪声以隐藏单个示例。据了解,这种噪声是以学术上最坏的情况去设计的,同时会显著影响模型的准确性。


因此,这促使谷歌的研究人员在寻求另一种选择。新的TensorFlow隐私模块支持的成员推断攻击方法,建立分类器来推断训练数据集中是否存在特定样本。分类器越精确,记忆就越多,因此模型的隐私保护就越少,做出高精度预测的攻击者将成功找出训练集中使用了哪些数据。


新模块提供的测试是黑盒,这意味着它们只使用模型的输出,而不是内部或输入样本。它们产生一个漏洞得分,确定模型是否从训练集中泄漏信息,并且它们不需要任何再训练,使得它们相对容易执行。


“在内部使用成员关系推断测试之后,我们将与开发人员共享这些测试,以帮助他们构建更多的私有模型,探索更好的架构选择,使用正则化技术,如提前停止、退出、权重衰减和输入增强,或收集更多数据。”谷歌Brain的双歌和谷歌软件工程师David Marn在TensorFlow博客上对外表示。


另外,谷歌表示:“今后,它将探索将成员推断攻击扩展到分类器之外的可行性,并开发新的测试。它还计划通过将新的测试与用于部署生产机器学习管道的端到端平台TensorFlow Extended(TFX)集成,探索将新的测试添加到TensorFlow生态系统中。”


雷锋网了解到,谷歌在去年夏天开放的基础差异隐私库中增加了对Go和Java的支持,还提供了Beam上的隐私,基于Apache Beam(一个特定于语言的sdk模型和集合)构建的端到端差异隐私解决方案,它依赖于差异隐私库的低级构建块,并将它们组合成一个“开箱即用”的解决方案,该解决方案考虑了差异隐私所必需的步骤。


此外,谷歌还推出了一个新的隐私损失分配工具,用于跟踪隐私预算,允许开发者对收集差异私人查询的用户隐私总成本进行估计,并更好地评估其管道的总体影响。


标签:行业资讯今日头条会议资讯机械商道机械应用人工智能市场评论机器人设备与仪器配件与装备
免责声明: 本文仅代表作者本人观点,与中国机械网无关。本网对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。本网转载自其它媒体的信息,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。客服邮箱:service@cnso360.com | 客服QQ:23341571
中国机械网手机版MOBILE
扫描二维码,获取手机版最新资讯 中国机械网 您还可以直接微信扫描打开
全站地图

深圳网络警察报警平台 深圳网络警
察报警平台

公共信息安全网络监察 公共信息安
全网络监察

经营性网站备案信息 经营性网站
备案信息

中国互联网举报中心 中国互联网
举报中心

中国文明网传播文明 中国文明网
传播文明

深圳市市场监督管理局企业主体身份公示 工商网监
电子标识