刘钢
从布尔到辛顿(四)
2021-8-11 12:47
阅读:3043

美国计算机协会(ACM)于2018年3月27日宣布,将2018年的图灵奖授予有“深度学习三巨头”之称的Yoshua Bengio、Yann LeCun、Geoffrey Hinton三人。这是图灵奖1966年建立以来少有的一年颁奖给三位获奖者。其中,辛顿年岁最大(69岁),另外二位基本属于他的博士后。ACM同时宣布,将于6月15日在旧金山举行年度颁奖晚宴,届时正式给获奖者颁奖,奖金100万美元。

 

ODhR-hutwezh2380245.png

从左到右:Yann LeCun,Geoffrey Hinton,Yoshua Bengio



 

本来不想去写辛顿的,可略带一笔也无妨。原因有一下几点,首先他与我还没有完成的工作“非概念论”会有些关联;其次,他与布尔有些八竿子打不到的关系,第三,2015年我曾参与过AlphaGo战胜围棋手的哲学讨论。所以也就说几句吧。辛顿祖上与布尔有血缘关系。布尔生前有五位女儿。辛顿全名叫Geoffrey Everest Hinton,其曾祖父为著名逻辑学家布尔,其曾祖母为Mary Everest,所以Everest是他曾祖母的姓。国人总是简单地译为“辛顿”。仅仅译了姓,这没什么错。可他与布尔有什么关系?可见下图的关系:


辈分图.jpg

 

辛顿1970年获剑桥大学文学士学位,主修实验心理学。1978年,他在爱丁堡大学获得哲学博士学位,专业是人工智能。此后辛顿曾在英美等数个著名学府工作。2012年,辛顿获得了加拿大基廉奖(Killam Prizes,有“加拿大诺贝尔奖”之称的国家最高科学奖)。辛顿是机器学习领域的加拿大首席学者,是加拿大高等研究院赞助的“神经计算和自适应感知”项目的领导者,是盖茨比计算神经科学中心的创始人,目前担任多伦多大学计算机科学系教授。

 

辛顿获得图领奖的重大贡献就是与前辈共同开发出反向传播和对比发散训练算法,而且他最先把反向传播用于多层神经网络。同时还发明了玻尔兹曼机,这些成果呢,直接导致深度学习的实用化科研教学一体化。不过,这也仅仅是神经网络复兴的第一步,距离全面复兴,走到今天深度学习的时代,还有一段漫长曲折的旅途。

 

心理学横跨人文与技术。他们在神经网络方面的研究作出了重大贡献——这种机器学习软件能够模仿人类大脑的运作模式。辛顿的主要贡献就是开发出一种名为“反向传播”的方法,并将其应用于人工神经网络,以促进机器学习。1959年在达特茅斯学院人工智能召开的首次会议上,麻省理工学院工程师塞缪尔(Arthur Samuel,1901—1990)将机器学习描述为“使计算机在没有明确编程的情况下进行学习。”换言之,让机器自主学习。

 

心理学家麦克洛奇(W.S.McCulloch)和数理逻辑学家皮茨(W.Pitts)建立了神经网络和数学模型(MP模型)。他们通过MP模型提出了神经元的形式化数学描述和网络结构方法,证明了单个神经元能执行逻辑功能,从而开创了人工神经网络研究的时代。但是,人工智能中的这一派一直受到抑制,经历了多年的沉寂。从神经网络模型的形成开始,它就与心理学就有着密不可分的联系。神经网络抽象于神经元的信息处理功能,神经网络的训练则反映了感觉、记忆、学习等认知过程。人们通过不断地研究, 变化着人工神经网络的结构模型和学习规则,从不同角度探讨着神经网络的认知功能,为其在心理学的研究中奠定了坚实的基础。近年来,人工神经网络模型已经成为探讨社会认知、记忆、学习等高级心理过程机制的不可或缺的工具。人工神经网络模型还可以对脑损伤病人的认知缺陷进行研究,对传统的认知定位机制提出了挑战。

 

机器学习简单地说就是计算机处理信息的一种方式。这个目标在谷歌推出AlphaGo Zero时达到一个新的里程碑。2015年,谷歌推出的AlphaGo先后战胜了韩国围棋高手李世乭和中国选手柯杰。AlphaGo被授予韩国围棋院颁发的“荣誉九段”的证书。但该程序却是根据所有各种围棋棋谱所进行相应的编程所达到的高度。而且与其对弈的也是人类选手。无论如何,AlphaGo的战绩还是把中日韩围棋界惊掉了下巴。

 

在国际学术期刊《自然》(Nature)于2017年10月19日发表的一篇研究论文中,谷歌下属公司Deepmind报告新版程序AlphaGo Zero:从空白状态学起,在无任何人类输入的条件下,它能够迅速自学围棋,并以100:0的战绩击败“前辈”。其100:0战绩有“造”真嫌疑。 它经过3天的训练便以100:0的战绩击败了他的哥哥AlphoGo Lee,经过40天的训练便击败了它的另一个哥哥AlphoGo Master。AlphaGo Zero基本实现了机器自主学习的目的。从这个意义上说,AlphaGo Zero似乎的确满足了“使计算机在没有明确编程的情况下进行学习。”但我的问题是,果真满足了吗?

转载本文请联系原作者获取授权,同时请注明本文来自刘钢科学网博客。

链接地址:https://wap.sciencenet.cn/blog-105489-1299273.html?mobile=1

收藏

分享到:

当前推荐数:9
推荐到博客首页
网友评论2 条评论
确定删除指定的回复吗?
确定删除本博文吗?