返回顶部
返回首页
返回首页
75年后,艾萨克·阿西莫夫(Isaac Asimov)的机器人三定律需要更新,中国机械网,okmao.com
home 您现在的位置: 首页 >高端访谈 > 详细信息
75年后,艾萨克·阿西莫夫(Isaac Asimov)的机器人三定律需要更新
2021年01月22日    阅读量:562    新闻来源:中国机械网 okmao.com  |  投稿

当科幻小说作者艾萨克·阿西莫夫(Isaac Asimov)设计他的《机器人三定律》时,他正在思考机器人。


他设想了一个这样的世界:这些类似于人类的机器人将像仆人一样行事,并且需要一套编程规则来防止它们造成伤害。


但是,自从第一个以道德准则为特色的故事发表以来的75年中,技术取得了重大进步中国机械网okmao.com。现在,我们对机器人的外观以及如何与之交互有一个截然不同的概念。


75年后,艾萨克·阿西莫夫(Isaac Asimov)的机器人三定律需要更新 中国机械网,okmao.com


机器人技术的高度发展领域正在生产各种各样的设备,从自动吸尘器到军用无人机再到整个工厂生产线。


同时,无论我们是在搜索互联网还是被分配政府服务,人工智能和机器学习都越来越落后于每天影响我们的许多软件。


这些发展迅速导致了一个时代,各种各样的机器人将在社会的几乎所有方面普及,并且人机交互将大大增加。


阿西莫夫定律仍然被作为指导我们开发机器人的模板。在韩国政府甚至提出了一个机器人道德宪章在2007年体现的法律。


但是鉴于机器人技术已经发生了很大的变化并且在未来将继续增长,我们需要问一下对于21世纪的人工智能版本如何更新这些规则。


三定律


阿西莫夫(Asimov)建议的法律旨在保护人类免受与机器人的交互作用。他们是:


机器人可能不会伤害人类,也可能因无所作为而伤害人类

机器人必须服从人类的命令,除非这些命令会与第一定律相抵触

机器人必须保护自己的存在,只要这种保护与第一或第二定律不冲突


如前所述,一个明显的问题是,如今的机器人似乎比阿西莫夫的故事中的机器人多样化得多,其中包括一些更为简单的机器人。


因此,我们需要考虑是否应该具有一个复杂度阈值,在该阈值之下可能不需要该规则。


很难想到具有伤害人类甚至需要遵守命令的能力的机器人真空吸尘器。这是一种具有单个任务的机器人,可以在启动之前预先确定该任务。


然而,在另一端是为军事作战环境设计的机器人。这些设备被设计用于间谍,炸弹处理或负载目的。


这些似乎仍然符合阿西莫夫的法律,特别是在创建它们以减少高度危险的环境中对人类生命的风险时。


但是,假设最终的军事目标是制造可以部署在战场上的武装机器人,这只是一小步。在这种情况下,第一部法律(不伤害人类)变得非常棘手。


军队的作用通常是挽救士兵和平民的生命,但通常是通过伤害战场上的敌人来挽救生命。因此,可能需要从不同的角度或解释来考虑法律。

 

这项法律的含糊之处导致包括阿西莫夫(Asimov)在内的作者探索了如何对它们进行曲解或错误使用。


一个问题是他们实际上没有定义机器人是什么。随着研究不断突破技术的界限,机器人技术的新兴分支正在研究更多的分子装置。


例如,由DNA和蛋白质制成的“机器人”可用于外科手术以纠正基因疾病。从理论上讲,这些设备应真正遵循阿西莫夫定律。


但是,要使他们通过DNA信号遵循命令,他们就必须成为他们正在研究的人类不可或缺的一部分。


这样的集成将使得很难确定机器人是否足够独立以服从法律规定或在法律规定之外操作。而且从实际的角度来看,不可能确定所收到的任何命令如果执行会否对人类造成伤害。


还有一个问题是什么才是伤害人类。例如,在考虑日本机器人婴儿的发展时,这可能是一个问题。


如果人类采用这些机器人之一,则可能会造成情感或心理伤害。但是这种危害可能不是由机器人的直接作用引起的,或者直到人与机器人的交互结束多年之后才显现出来。


这个问题甚至可能适用于更简单的AI,例如使用机器学习来创建引起情感的音乐。


实际问题


法律的另一个大问题是,我们需要在人工智能方面取得重大进步,机器人才能真正能够遵循它们。


人工智能研究的目标有时被描述为开发能够像人类一样理性思考和行动的机器。到目前为止,在AI领域中尚未对模仿人类行为进行深入研究,而理性行为的发展则集中在有限且定义明确的领域。


考虑到这一点,机器人只能在非常有限的范围内操作,并且法律的任何合理应用都将受到严格限制。


即使使用当前技术也可能无法做到这一点,因为能够根据法律进行推理和做出决策的系统将需要相当大的计算能力。


考虑到所有这些问题,阿西莫夫的法律为当今想要创建机器人代码的人提供了创始原则。我们需要遵循一套更为全面的法律。


也就是说,如果没有人工智能的重大发展,实施此类法律将仍然是一项不可能的任务。在此之前,我们甚至还没有考虑过如果人类开始爱上机器人可能造成的伤害。


标签:行业资讯今日头条高端访谈机械应用人工智能市场评论机器人服务与娱乐机器人配件与装备
免责声明: 本文仅代表作者本人观点,与中国机械网无关。本网对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。本网转载自其它媒体的信息,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。客服邮箱:service@cnso360.com | 客服QQ:23341571
中国机械网手机版MOBILE
扫描二维码,获取手机版最新资讯 中国机械网 您还可以直接微信扫描打开
全站地图

深圳网络警察报警平台 深圳网络警
察报警平台

公共信息安全网络监察 公共信息安
全网络监察

经营性网站备案信息 经营性网站
备案信息

中国互联网举报中心 中国互联网
举报中心

中国文明网传播文明 中国文明网
传播文明

深圳市市场监督管理局企业主体身份公示 工商网监
电子标识