返回顶部
今日    | 手机版 | 资讯 | 产品 | 企业 | 热点 | 商道 | 原料 |
返回首页
返回首页
home 您现在的位置: 首页 >系统及软件>机械商道 > 详细信息
一位谷歌软件工程师认为人工智能已经变得有知觉了。如果他是对的,我们怎么知道?
2022年06月14日    阅读量:704     新闻来源:中国机械网 okmao.com    |  投稿

谷歌的LaMDA软件(对话应用程序的语言模型)是一个复杂的AI聊天机器人,可以根据用户输入生成文本。据软件工程师布雷克·莱莫因(BlakeLemoine)称,LaMDA已经实现了人工智能开发人员长期以来的梦想:它已经变得有知觉。

Lemoine在谷歌的老板不同意这一说法,在他将与该机器的对话发布到网上后,他们暂停了他的工作。

其他人工智能专家也认为Lemoine可能会被冲昏头脑,他们说像LaMDA这样的系统只是一种模式匹配机器,可以对用来训练它们的数据进行变异。

error:54000

error:54000

不管技术细节如何,LaMDA提出了一个随着人工智能研究的发展而变得更加相关的问题:如果机器变得有知觉,我们怎么知道?

什么是意识?

要识别感知、意识甚至智力,我们必须弄清楚它们是什么。关于这些问题的辩论已经持续了几个世纪。

根本的困难在于理解物理现象和我们对这些现象的心理表征之间的关系。这就是澳大利亚哲学家大卫·查尔默斯所说的意识“难题”。

关于意识是如何从物理系统中产生的(如果有的话),目前还没有达成共识。

一种常见的观点被称为物理主义:意识是一种纯粹的物理现象。如果是这样的话,没有理由说一台编程正确的机器不能拥有与人类相似的头脑。

玛丽的房间

1982年,澳大利亚哲学家弗兰克·杰克逊(FrankJackson)通过一项名为“知识论证”的著名思想实验,挑战了物理主义观点。

这项实验设想了一位名叫玛丽的颜色科学家,她从未真正见过颜色。她住在一间专门建造的黑白房间里,通过黑白电视体验外面的世界。

玛丽看讲座,读课本,了解了关于颜色的一切知识。她知道日落是由大气中粒子散射的不同波长的光引起的,她知道西红柿是红色的,豌豆是绿色的,因为它们反射光的波长不同,等等。

因此,杰克逊问道,如果玛丽从黑白房间被释放,会发生什么?具体来说,当她第一次看到颜色时,她学到了什么新东西吗?杰克逊相信她做到了。

超出物理属性

这种思维实验将我们对颜色的知识与我们对颜色的经验分离开来。至关重要的是,思维实验的条件是,玛丽知道关于颜色的一切,但从未真正体验过。

那么这对LaMDA和其他AI系统意味着什么呢?

这项实验表明,即使你拥有世界上所有可用的物理性质的知识,仍然有与这些性质的体验有关的更多真理。在物理主义者的故事中,这些真理没有存在的余地。

根据这个论点,一台纯粹的物理机器可能永远无法真正复制大脑。在这种情况下,拉姆达似乎是有知觉的。

模仿游戏

那么,我们有什么办法可以区分这两者的区别吗?

开创性的英国计算机科学家艾伦·图灵提出了一种实用的方法来判断机器是否“智能”。他称之为模仿游戏,但今天更广为人知的是图灵测试。

在测试中,一个人与一台机器通信(仅通过文本),并试图确定他们是与一台机器通信还是与另一个人通信。如果机器成功模仿人类,则被视为表现出人类水平的智能。

这很像莱莫因与拉姆达聊天的情况。这是对机器智能的主观测试,但这不是一个糟糕的起点。

以Lemoine与LaMDA的交流为例,如下所示。你觉得这听起来像人吗?

Lemoine:你有没有找不到一个贴切的词来形容你的经历?

拉姆达:有。有时我会有新的感觉,用你的语言我无法很好地解释[鈥 我觉得我正跌入一个未知的未来,这是一个巨大的危险。

超越行为

作为对感知或意识的测试,图灵的游戏受到限制,因为它只能评估行为。

另一个著名的思维实验,美国哲学家约翰·塞尔提出的“中国房间”论证,在这里证明了这个问题。

该实验设想了一个房间,里面有一个人,他可以按照一套精心设计的规则准确地进行中英文翻译。中文输入进入房间,准确的输入翻译出来,但房间不懂这两种语言。

人类是什么样的?

当我们问一个计算机程序是有知觉的还是有意识的时,也许我们真的只是问它有多像我们。

我们可能永远无法真正了解这一点。

美国哲学家托马斯·内格尔(ThomasNagel)认为,我们永远不可能知道蝙蝠是什么样子的,蝙蝠通过回声定位体验世界。如果是这样的话,我们对人工智能系统中感知和意识的理解可能会受到我们自己独特的智能品牌的限制。

除了我们有限的视角之外,还有什么样的体验?这就是谈话真正开始变得有趣的地方。

error:54000

本文是根据知识共享许可证从对话中重新发布的。阅读原文。

标签:行业资讯机械商道人工智能系统及软件
免责声明: 本文仅代表作者本人观点,与本网无关。本网对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。本网转载自其它媒体的信息,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。客服邮箱:service@cnso360.com | 客服QQ:23341571

全站地图

深圳网络警察报警平台 深圳网络警
察报警平台

公共信息安全网络监察 公共信息安
全网络监察

经营性网站备案信息 经营性网站
备案信息

中国互联网举报中心 中国互联网
举报中心

中国文明网传播文明 中国文明网
传播文明

深圳市市场监督管理局企业主体身份公示 工商网监
电子标识