王宏琳
AI“大问题”:从图灵之问到霍金之忧 精选
2019-10-21 08:43
阅读:1561

许多人都这想过这样一些问题,如,计算机、机器人和软件代理,是否真的可以说是有智能?计算机的智能能否超过人类智能?未来智能机器是否会对人类造成危害?

这个世界上一些最智慧的人,也考虑过人工智能若干大问题,其中包括图灵、明斯基和霍金。这里姑且分别称为图灵之问、明斯基之狂和霍金之忧。也许很多人都看到过他们有关观点报导,但他们的原话究竟是如何说的呢?

【图灵之问】

1950年,图灵在《计算机器与智能》一文的第一节的开头说道:“I propose to consider the question, ‘Can machines think?’”(我提议考虑这个问题,“机器能思考吗?”)

image.png

艾伦·图灵在跑步

[注记]:计算机科学先驱想到了“机器能思考吗?”问题。艾伦·图灵的这篇《计算机器与智能》伟大论文,是在“人工智能”术语诞生之前发表的。此前, 1948年,图灵还在英国国家物理实验室NPL写过一个内部报告,题为“智能机器”。

一些哲学家和其他研究人员认为,计算机永远不会思考,人类的大脑和思维与计算机完全不同。其中最著名的是约翰·希尔勒的中文房间争论。他认为机器根本不能思考,因为它们缺乏与世界恰当的语义联系。

在科学网海外观察博文《图灵测试、“中文房间争论”及<智能机器如何思考>》中,介绍过:现在这些人工神经网络不仅会玩游戏,还能够驾驶汽车,识别照片中的图像、识别口语语音,其水平可以与人类媲美。在这些过程中,机器是如何思考的?MIT出版社在2018年出版了谷歌前工程专家、机器学习博士肖恩·格里什(Sean Gerrish)著的《HOW SMART MACHINES THINK》(中文版《智能机器如何思考:深度神经网络的秘密》),有广泛的讨论。该书没有谈论太多的哲学问题,重点在人工智能是如何工作的,解读了一些使得现在机器显得具有如此智能的背后的算法。例如,自动驾驶汽车如何能够感知周围环境,识别道路、躲避障碍物、在十字路口避让、处理交通堵塞、换车道、找停车位等。这本书介绍的机器思考方式与人的思考方式很是不同。神经网络识别图像中的物体,击败李世石的AlphaGo和在智力问答战胜人类冠军的沃森计算机玩游戏,是否可以看作深度神经网络能够思考呢?

【明斯基之狂】

1970年,在《Life(生活)》杂志关于“第一个电子人”的一篇文章中,这样引用马文·明斯基的话:“In from three to eight years we will have a machine with the general intelligence of an average human being. ”(三至八年后,我们将拥有一台拥有普通人一般智能的机器。)明斯基接着说:“这样的机器能读懂莎士比亚的著作,会给汽车上润滑油,会玩弄政治权术,能讲笑话,会争吵。到这个程度后,计算机将以惊人的速度进行自我教育。几个月后,它将具有天才的智力,再过几个月,它的智力将无可伦比。”

image.png

2006年(达特茅斯会议后50年)几位参会者再聚首,中间为马文明斯基

[注记]:自然,这个预测很是离谱(也有人质疑引用者记录的时间是否正确),可算是狂热。“人工智能”这个术语,是1956年在新罕布什尔州达特茅斯学院举行的夏季会议提出的。明斯基是这个会议的关键人物之一。那个时代的许多人工智能先驱理所当然地认为,在10到20年内,计算机将和人类一样聪明。如,在1965年,西蒙说过:“20年内机器能够做人所能做的一切。” 几十年过去了,机器并没有达到人类智能水平。

在科学网海外观察博文《通用AI——未来真正强健的人工智能?》中,介绍过:牛津大学未来人类研究所对人工智能的进步进行了全面的研究。这项研究采访了352名人工智能研究人员,2018年发表了名为《人工智能何时超越人类表现》的报告。其中讲到:在45年内,人工智能工具在所有任务中超过人类的可能性高达50%,在120年内,所有人类工作自动化的可能性高达50%。这个时间表是否可能实现呢?

【霍金之忧】

2014年12月,传奇物理学家斯蒂芬·霍金教授警告说,the artificial intelligence could spell doom for human existence.(人工智能可能会给人类的生存带来厄运)。在接受英国广播公司采访时,他说思维机器的发展对人类构成了严重威胁。他警告说,人工智能将自行起飞,并快速重新设计自己。人类可能被取代,因为我们被缓慢的生物进化所限制。

2014年10月,远见卓识的企业家和特斯拉汽车公司创始人埃隆·马斯克也警告说,人工智能是人类面临的最大威胁。他建议科学界确保他们“don’t do something very foolish(不要做非常愚蠢的事情)”。

image.png

斯蒂芬·霍金

[注记]:首先,基于机器学习的人工智能存在有易被愚弄、易受攻击的脆弱性,甚至有黑客可能接管强大的人工智能的危险。其次,机器学习的设计、收集数据、准备数据各个环节里,容易造成人工智能偏见。第三,智能机器能够自我进化,难于制约。

例如,自然语言处理系统理解人类语言必须接受训练。现在的NLP(自然语言处理)只是基于一些训练数据中的模式的猜测。开发人员使用训练数据,希望构建能够准确处理来自各种说话人的语言的系统。但是这些训练数据不可能反映所有可能的语音变化,包括每一种口音、方言和俚语表达。当自然语言处理技术遇到不熟悉的单词或声音时,它会猜测正确的意思,这可能会导致错误。2017年,自动翻译软件将一名巴勒斯坦男子在脸书上的“早上好”帖子翻译成希伯来语的“攻击他们”,英语的“伤害他们”。这个人被警方逮捕并拘留,直到误解得到解决。

应该说,未来AI的HSE(健康、安全、环境友好),任重道远。在科学网海外观察博文《<自然>:修复AI神经网络的缺陷》中,介绍过:科学家正在研究修复机器学习的脆弱性。探索机器学习与程序合成技术相结合,探索将深度学习与基于规则的人工智能技术相结合,探索如何使得智能体具备了解因果关系能力,将使得未来的人工智能系统更加健壮。未来十年里,AI系统能否自己探索世界,能否编写自己的算法和具有保留记忆的能力呢?

【结语】

在图灵发出“机器能思考吗?”的“图灵之问”时候,引起过学术界广泛注意和讨论,并在1956年达特茅斯会议不久,出现了人工智能研究热潮和第一个黄金时代。

从“图灵之问”到“霍金之忧”,中间相隔60多年,人工智能取得长足进步,虽然远没有达到明斯基设想的水平。其间,有过高潮,也经历过寒冬。

有专家把2011年IBM沃森计算机在综艺节目《危险边缘》中打败人类冠军和2016年谷歌 DeepMind研发的AlphaGo 战胜了世界围棋冠军李世石,称为近十年来“两项震惊世界的壮举”(见《<为什么>导读手册》)。无论如何,可以说,目前处于“新一轮的AI爆发”。正是在这样背景下,霍金等人担心人工智能会对人类构成了严重威胁。

对于霍金的警告,似乎大多数人一笑置之。尽管“人类终结”之类的话多少有点耸人听闻,但是,由于人工智能当前存在的某些缺陷、脆弱,以及未来能够自主发展、难以驾驭,存在造成对人类的损害的可能性。随着人工智能融入人类社会方方面面,人工智能技术的健康、安全发展和对环境友好(HSE),应该格外引起项目决策者和开发者的注意,让未来的人工智能更好地服务人类。

转载本文请联系原作者获取授权,同时请注明本文来自王宏琳科学网博客。

链接地址:http://wap.sciencenet.cn/blog-3005681-1202795.html?mobile=1

收藏

分享到:

下一篇
当前推荐数:1
推荐人:
推荐到博客首页
网友评论1 条评论
确定删除指定的回复吗?
确定删除本博文吗?