1969年,人工智慧先驱和诺贝尔奖获得者赫伯特·西蒙(Herbert Simon)提出了一种新的科学,即像研究自然物体一样致力于人工物体的研究。
“自然科学是关于自然事物和现象的知识,”西蒙写道。“我们问是否也没有'人造'科学-关于人造物体和现象的知识中国机械网okmao.com。”
50年后的今天,来自哈佛大学,麻省理工学院,斯坦福大学,加利福尼亚大学,圣地亚哥大学,谷歌,Facebook,微软和其他机构的一组研究人员正在更新这一呼吁。在最近发表在《自然》杂志上的一篇论文中,研究人员提出了一个新的跨学科领域-机器行为-将通过生物学,经济学,心理学以及其他行为和社会科学的视角来研究人工智能。
研究人员认为,智能机器不再只能被视为工程学和计算机科学的产品。相反,应该将他们视为具有自己的行为和生态的新型演员。
哈佛大学约翰·保尔森工程与应用科学学院(SEAS)与乔治·F·科洛尼(George F. Colony)计算机科学教授,该论文的合著者大卫·帕克斯(David Parkes)谈了这个新兴领域以及智能技术的未来机器。
乔治·F·科洛尼计算机科学教授大卫·帕克斯(David Parkes)谈到了机器行为的新兴领域。图片来源:SEAS Communications
问答:David Parkes
SEAS:长期以来,对人工智能和智能机器的研究仅限于计算机科学领域,制造机器的研究人员与研究其行为的研究人员相同。为什么将研究范围扩大到包括行为科学和社会科学在内的新领域很重要?
帕克斯(Parkes):首先,将智能机器的设计者和建造者与研究(或不使用)它们的人分开,可以为开发和测试关于这些技术性能的正确假设集带来独立的见解。还有一些务实的原因,因为对智能机器的研究已成为一门行为科学,需要完全不同的专业知识。
另一点是,当行为变成使用方式的产物时,在实验室的狭窄范围内开发的系统可能会表现出非常不同的行为,包括与设计者的预期不同的多种方式。微软的Tay机器人(在巨魔“教”她的仇恨言论后开始发布攻击性推文)是一个不幸的例子,但并非如此。
SEAS:机器行为和计算机科学领域将如何共同发展并相互促进?
帕克斯(Parkes):随着计算机科学的发展,这种领域已经包含了经济学家所谓的“正分析”,即基于已部署的计算系统的经验和实验研究的分析。
互联网的结构,社交网络上的信息传播或使用交互式辅导系统的方式,仅举三个示例。智能机器是我们需要学习和理解的一种新型人工产物,我们需要以跨学科的方式来做到这一点,其中包括与社会科学家,人文主义者,伦理学家,法律学者等共同合作的计算机科学家。
更广泛地说,机器行为的研究将受到数据科学的进步的影响,
SEAS:您的工作重点是AI与经济学的交汇处。您最想回答什么机器行为问题?
帕克斯:我对一个研究程序感兴趣,该程序研究算法经济范围内的机器行为,包括定价算法,推荐算法,信誉系统以及区块链环境。
我们已经看到构成经济系统的许多核心要素实现自动化的轨迹,并且机器行为镜头是一个很好的镜头,因为行为是新兴的,这意味着它不仅基于个人互动,而且还基于社会和社会。
经济力量。我认为,像Amazon所采用的推荐器系统尤其有趣且值得研究,因为在该系统中,我们将看到围绕行为经济学,算法营销和道德的棘手问题。例如,聪明的推荐器可以利用“
SEAS:什么是选择集效果?
帕克斯:我为您展示了一台便宜,中等价位和昂贵的咖啡机,您选择了一台价格适中的咖啡机。但是,如果我向您展示一款中等,昂贵且超豪华的机器,您会选择……?
SEAS:昂贵的 您建立了像Amazon和Microsoft这样的私营公司。专有算法和黑盒算法必须对理解机器行为构成挑战。当我们不知道算法是什么或如何做出决策时,我们如何理解机器为什么以其行为方式运行?
PARKES:有趣的是,算法本身并不需要非常复杂。训练深度学习系统的算法描述了模型的体系结构以及模型的训练方式,通常只能用数十行代码来表达(尽管这些代码会在其他代码的基础上构建,低级代码)。训练有素的模型很复杂,有些难以理解,通常被认为是“黑匣子”。
但这并非没有希望,并且有许多明智的研究方向,例如,要求使用更简单的模型,坚持对复杂模型的行为进行事后解释,并使用可视化和敏感性分析来尝试了解这些模型的工作方式以及测试有关行为的理论。
SEAS:人工智能已经在我们的生活中发挥了重要作用。现在建立这个新的研究领域的重要性是什么?当AI的大部分基础已经奠定时,您是否担心它为时已晚?
帕克斯:嗯,永远不会太晚,而我们只是在变革浪潮的开始,这将来自智能机器的发展。有必要以好奇心,创造力和责任感的适当措施进行有意识的前进,同时认识到人与机器将继续以新的出乎意料的方式联系在一起。重要的是要认识到科学研究的必要性,而这篇综述文章汇集了这个新兴的,跨学科的机器行为领域的线索。