返回顶部
今日    | 手机版 | 资讯 | 产品 | 企业 | 热点 | 商道 | 原料 |
返回首页
返回首页
home 您现在的位置: 首页 >服务与娱乐机器人>产品资讯 > 详细信息
人们更喜欢用机器人来自我解释-简短的摘要并没有帮助他们
2020年09月23日    阅读量:2642     新闻来源:中国机械网 okmao.com    |  投稿

人工智能正以多种方式进入我们的生活,包括智能手机,家庭,汽车。这些系统可以帮助人们进行约会,开车甚至诊断疾病。但是,随着AI系统继续在人们的生活中发挥重要的协作作用,一个自然的问题是:我可以信任他们吗?我怎么知道他们会做我期望的?


人们更喜欢用机器人来自我解释-简短的摘要并没有帮助他们 中国机械网,okmao.com


可解释性AI(XAI)是AI研究的一个分支,旨在研究如何使人工代理对其人类用户更加透明和值得信赖中国机械网okmao.com。如果机器人和人要一起工作,那么可信度至关重要。XAI致力于开发人类认为值得信赖的AI系统,同时还能出色地完成设计任务。


在UCLA的视觉,认知,学习和自主中心,我们和我们的同事对哪些因素使机器更值得信任以及不同的学习算法如何使信任产生了兴趣。我们的实验室使用一种知识表示形式(AI用来解释其周围环境并做出决策的世界模型),人类可以更轻松地理解它。这自然有助于解释和透明度,从而提高人类用户的信任度。


在我们的最新研究中,我们尝试了机器人可以向人类观察者解释其动作的不同方式。有趣的是,引起人们最大信任的解释形式与产生最佳任务性能的学习算法并不对应。这表明性能和解释并不是天生就相互依赖的-单独优化一项可能不会为另一项带来最佳结果。这种差异要求机器人设计要兼顾良好的任务表现和可信赖的解释。


教学机器人


在进行这项研究时,我们小组对两件事感兴趣。机器人如何最好地学习执行特定任务?那么,人们如何回应机器人对其动作的解释?


我们教了一个机器人,通过人类演示来学习如何打开带安全锁的药瓶。一个人戴着触觉手套,记录了打开瓶子时人的手的姿势和力量。这些信息帮助机器人以两种方式了解人类的行为:象征性和触觉性。符号表示您的行为的有意义的表示形式:例如,单词“ grasp”。触觉是指与您的身体姿势和动作相关的感觉:例如,手指并拢的感觉。


随着时间的流逝,机器人打开药瓶的象征性和触觉性解释。第一行是执行任务的机器人视频的静止图像。中间一行显示了该任务的符号说明。底行显示了触觉说明。


首先,机器人学习了一个符号模型,该模型对完成打开瓶盖任务所需的步骤顺序进行了编码。其次,机器人学会了一种触觉模型,该模型使机器人可以在人类演示者的角色中“想象”自己,并预测人在遇到特定姿势和力量时会采取什么动作。


事实证明,当结合符号和触觉组件时,机器人能够达到最佳性能。与单独使用两个机器人相比,使用机械手了解执行任务的步骤知识和实时感应的效果更好。


赢得人的信任


既然机器人知道该怎么做,它如何向人解释其行为?这种解释在多大程度上促进了人们的信任?


为了解释其动作,机器人可以利用其内部决策过程以及其行为。符号模型提供了机器人动作的逐步描述,而触觉模型则提供了对机器人抓手“感觉”的感觉。


在我们的实验中,我们为人类增加了一个额外的解释:在机器人完成尝试打开药瓶后的文字记录,提供了摘要。我们想看看摘要描述是否能与逐步符号解释一样有效,以获得人的信任。


我们要求150名人类参与者(分为四组)观察机器人试图打开药瓶的过程。然后,机器人为每个小组对任务进行了不同的解释:符号,逐步,触觉-手臂的位置和动作,文本摘要或符号触觉一起。基线小组仅观察到试图打开瓶子的机器人的视频,没有提供任何其他解释。


我们发现,提供符号解释和触觉解释都可以赢得最多的信任,而符号部分的贡献最大。有趣的是,以文本摘要形式进行的解释并不能带来更多的信任,而不仅仅是观看机器人执行任务,这表明人类更喜欢机器人对自己的工作进行逐步解释。


加州大学洛杉矶分校的研究人员在通过观察人类示威者学会了如何打开药瓶之后对机器人进行了测试。信用:加州大学洛杉矶分校萨穆里理工学院,CC BY-ND

为性能和信任而设计


这项研究最有趣的结果是,使机器人表现出色的原因与使人们认为机器人值得信赖的原因不同。机器人需要符号和触觉组件才能做到最好。但这是使人们最信任机器人的象征性解释。


这种差异突出了未来AI和机器人技术研究的重要目标:专注于追求任务性能和可解释性。只专注于任务绩效可能不会导致机器人很好地说明自己。我们的实验室使用混合模型来提供高性能和可信赖的解释。


性能和解释并不能自然地相辅相成,因此在构建AI系统时,这两个目标从一开始就必须成为优先事项。这项工作代表着系统研究人机关系如何发展的重要一步,但是还有很多工作要做。未来研究的挑战性步骤将是从“我相信机器人会做X”到“我相信机器人”。


为了使机器人在人们的日常生活中占有一席之地,人类需要信任他们的机器人同行。理解机器人如何提供解释以增进人的信任是朝着使人与机器人一起工作迈出的重要一步。


标签:行业资讯今日头条产品资讯机械应用人工智能市场评论技术中心机器人服务与娱乐机器人配件与装备码垛机器人
免责声明: 本文仅代表作者本人观点,与本网无关。本网对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。本网转载自其它媒体的信息,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。客服邮箱:service@cnso360.com | 客服QQ:23341571

全站地图

深圳网络警察报警平台 深圳网络警
察报警平台

公共信息安全网络监察 公共信息安
全网络监察

经营性网站备案信息 经营性网站
备案信息

中国互联网举报中心 中国互联网
举报中心

中国文明网传播文明 中国文明网
传播文明

深圳市市场监督管理局企业主体身份公示 工商网监
电子标识