返回顶部
返回首页
返回首页
探索更广泛的影响要求对AI治理的影响,中国机械网,okmao.com
home 您现在的位置: 首页 >机器人>产品资讯 > 详细信息
探索更广泛的影响要求对AI治理的影响
2021年04月05日    阅读量:330    新闻来源:中国机械网 okmao.com  |  投稿

随着机器学习算法和其他人工智能(AI)工具的日益普及,一些政府和机构已经开始引入旨在确保其在道德上得到设计和实施的法规。例如,去年,神经信息处理系统(NeurIPS)会议为所有提交与AI相关的研究的作者引入了一项新的与道德相关的要求。


探索更广泛的影响要求对AI治理的影响 中国机械网,okmao.com


牛津大学AI伦理研究所,计算机科学系和人类未来研究所的研究人员最近发表了一篇观点论文,讨论了诸如NeurIPS会议提出的要求可能产生的影响和影响中国机械网okmao.com。这篇发表在《自然机器智能》上的论文还提出了一系列措施,可以最大限度地提高这些要求的成功机会。


进行这项研究的研究人员之一Carina E. Prunkl对TechXplore表示:“去年,NeurIPS提出了一项要求,即提交作者的论文必须包含更广泛的影响力陈述。” “很多人-包括我们在内-感到惊讶。为此,我们决定就该主题写两篇文章:研究人员指南,介绍如何开始思考研究的更广泛影响并撰写更广泛的影响说明,以及这篇有远见的文章,实际上是要指出这种更广泛的影响要求的一些潜在影响。”


预测和总结给定研究的可能影响是一项非常复杂且具有挑战性的任务。在给定的技术工具或技术可以在广泛的设置范围内具有多种应用的情况下,甚至更具挑战性。


Prunkl和她的同事在他们的论文的基础上,研究了不同的治理机制,以描绘NeurIPS提出的要求可能带来的好处,风险和挑战。此外,他们提出了一系列可减轻潜在挑战的策略,将其分为四个关键类别:透明性,指导性,激励性和审议性。


普鲁克说:“我们的总体目标是通过提高人们对某些潜在陷阱的认识,为有关社区主导的治理机制的持续讨论做出贡献,并提出建设性的建议,以改善这一过程。” “我们通过讨论其他治理举措(例如机构审查委员会)的效果来开始讨论,这些举措本质上是相似的,并且还让研究人员撰写有关其研究影响的陈述。”

 

Prunkl和她的同事考虑了以前的AI治理计划,该计划要求研究人员准备有关其工作影响的陈述,并着重介绍了从此类陈述中学到的一些教训。然后,他们讨论了NeurIPS更广泛的影响声明要求的潜在利益和风险。最后,他们为会议组织者和整个ML社区准备了一份建议列表,可以帮助他们提高此类声明对AI的发展产生积极影响的可能性。


Prunkl说:“我们列出的一些好处是对AI潜在潜在有害影响的预期得到改善和缓解,以及研究社区与决策者之间的交流得到了改善。” “如果执行不当,可能存在陈述质量低下的风险,有可能认为道德操守运动,甚至有可能使道德琐碎化,因为这暗示着有可能充分预见到道德操守的影响。这边走。”


为了评估和预测给定技术的更广泛影响,研究人员理想地应该具有诸如伦理学或社会学等学科的背景,并对理论框架和先前的经验结果有深入的了解。Prunkl和她的同事在论文中概述了过去治理计划的失败或负面影响的一系列可能的根本原因。这些原因包括试图确定给定研究或技术工具的更广泛影响时遇到的固有困难,以及机构或社会的压力,以及缺乏协助研究人员撰写其陈述的通用准则。


普伦克说:“我们的主要建议集中在四个关键主题上:首先,提高透明度和设定期望值,其中包括目的,动机和期望的交流,以及如何评估这些陈述的程序透明度。” “第二,提供指导,其中包括有关如何编写这些陈述的指导,以及针对裁判员如何评价它们的指导。”


Prunkl和她的同事们在论文中还强调了制定激励措施的重要性。编写高质量的声明可能既昂贵又耗时,因此,他们认为机构应该引入激励措施,鼓励更多的研究人员投入大量的时间和精力来反映工作的影响。


Prunkl解释说:“一种解决方案是将语句的评估集成到同行评审过程中。” “其他选择包括设立指定奖项,并鼓励作者引用其他影响力陈述。”


Prunkl和她的同事们强调的第四个主题与公众和社区的审议有关。最后一点超出了更广泛的影响力陈述的范围,研究人员认为,这应该是任何旨在治理人工智能的干预措施的基础。他们特别强调需要更多的论坛,以使ML社区讨论旨在解决AI风险的潜在措施。


Prunkl表示:“寻找有效确保AI安全且负责任的开发的治理解决方案是当今最紧迫的挑战之一。” “我们的文章强调需要认真考虑这样的治理机制,并仔细思考可能出现的,可能破坏预期利益的风险和挑战。最后,我们的文章强调必须对此类治理机制进行社区审议。”


Prunkl和她的同事希望他们准备的建议列表将帮助计划组织更广泛的影响要求以应对与AI开发相关的挑战的会议组织者。研究人员目前计划加强与ML研究人员的合作,以进一步帮助他们准备研究影响陈述。例如,他们计划与研究人员共同设计会议,他们将合作创建资源,以帮助团队准备这些陈述并确定其工作的更广泛影响。


普伦克说:“关于影响力声明的辩论确实突出表明,对于应采用哪种治理机制以及应如何实施治理机制,缺乏共识。” “在我们的论文中,我们强调需要围绕此类机制进行持续,建设性的审议。针对这一需求,作者之一Carolyn Ashurst(与Solon Barocas,Rosie Campbell,Deborah Raji和Stuart Russell一起)组织了NeurIPS主题为“驾驭人工智能研究的更广泛影响”的研讨会。”


在Ashurst和她的同事组织的研讨会上,与会人员讨论了NeurIPS的影响声明和道德审查,以及有关负责任的研发理念的更广泛的问题。此外,组织者还探索了ML研究生态系统中不同方在导航更广泛的影响陈述的准备中可以扮演的角色。


将来,Prunkl和她的同事计划为与AI治理有关的建设性审议和讨论创造更多机会。他们的希望是,ML社区和参与AI使用的其他各方将继续合作,建立旨在有效解决ML研究可能产生的问题的规范和机制。此外,研究人员还将进行进一步的研究,旨在分析影响力陈述以及对这些陈述的一般态度。


Prunkl说:“分析会议预印本影响声明的工作已经浮出水面,既令人鼓舞,又涉及趋势。” “现在会议文件的最终版本已经公开,我们/ GovAI /我们的研究小组已经开始分析这些陈述,以了解研究人员如何对实践中的要求做出反应。此外,还需要做更多的工作来了解当前的态度。 ML研究人员针对此要求所做的工作。ElementAI研究人员的工作发现NeurIPS作者的反应不一;尽管有些人认为这一过程很有价值,但另一些人则提到了我们论文中强调的许多挑战,例如将这一要求描述为“负担已经过劳的研究人员的另一负担”。


标签:行业资讯今日头条产品资讯机械应用人工智能市场评论机器人系统及软件
免责声明: 本文仅代表作者本人观点,与中国机械网无关。本网对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。本网转载自其它媒体的信息,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。客服邮箱:service@cnso360.com | 客服QQ:23341571
中国机械网手机版MOBILE
扫描二维码,获取手机版最新资讯 中国机械网 您还可以直接微信扫描打开
全站地图

深圳网络警察报警平台 深圳网络警
察报警平台

公共信息安全网络监察 公共信息安
全网络监察

经营性网站备案信息 经营性网站
备案信息

中国互联网举报中心 中国互联网
举报中心

中国文明网传播文明 中国文明网
传播文明

深圳市市场监督管理局企业主体身份公示 工商网监
电子标识