陶勇
熵最大导致智能?
2018-7-10 18:04
阅读:12153

 

2010年时笔者在Physical Review E发表了一篇利用统计物理学研究经济系统的文章[1]。文章中,笔者将“经济系统”类比作“热力学系统”,将“人”比作“微观粒子”,从而像统计物理学推导宏观热力学定律那样,也推导出宏观经济学定律。20世纪50年代开始,现代宏观经济学在研究经济增长时,发现了一个神秘的变量“技术进步(或者知识)A”,这个变量所带来的经济增长被称作“索洛剩余”。有意思的是,一旦将统计物理学方法应用到经济系统,笔者发现这个所谓的“技术进步A”就是经济系统的“熵T[1],见下面方程(1)。众所周知,物理熵S度量的是一个物理系统的无序程度。而笔者发现经济系统的“熵T”具有类似的性质:经济系统的“熵T”度量一个经济系统中社会成员的“选择自由”[1-2]。简单来说就是,社会成员的“集体选择策略空间”的自由度越大,那么社会的技术进步就会越快。

 T=lnW(N)                                                    (1)

其中W(N)代表社会成员的“集体选择策略空间”中元素的数目,N为社会成员数目。

笔者是200710月份左右首次得到方程(1),那时刚刚进入硕士研究生一年级。一开始,笔者感到这个结论很违反直觉,因为熵最大往往被联系到“热寂说”,所以很难想象将熵最大联系到社会的技术进步方向。不过,一想到Shannon将“信息”等同于“熵”,所以方程(1)似乎也有道理:信息增加,从而技术进步。

再后来,笔者接触到国内一个叫做“集智俱乐部”的网站,其中谈到蚂蚁的“群体智能”深深的触动了我。如果把社会的技术进步考虑作人类群体智能的提高,那么智能岂不就是熵最大的结果?按照方程(1),一个有趣的结果跃然纸上:智能就是个体寻求“选择自由”最大化的结果[3]

方程(1)非常的简洁,笔者妄自揣测它应该符合爱因斯坦对于物理方程的偏爱标准——“方程的美在于优雅和简洁”。大家所知道的质能方程就是爱因斯坦对方程偏爱的标准。

但是如何利用方程(1)来实现“智能”呢?由于之前笔者不在人工智能领域,所以就放过了。

 

20175月一个偶然的原因,笔者在北京大学向几位经济学家介绍熵与技术进步、智能的关系时,为了寻求潜在的证据,上网搜索了“Maximizing Entropy”和“Intelligence”的词条。有趣的是,笔者惊奇的发现2013年哈佛大学的物理学家A. D. Wissner-Gross和夏威夷大学的数学家C. E. FreerPhysical Review Letters发表了一篇名为“因果熵力”的论文[4]。这篇论文按照最大因果熵产生原理的假设推测:一个主体为了确保未来的行动自由而不断尝试,智能行为通常便会在这个过程中自发出现

什么是“熵力”呢?论文[4]的作者用了一个简单的例子来说明(见图1):粒子在一个盒子内运动,为了保证它可以运动的路径最多(路径选择自由最大),它应该处于盒子中的哪个位置呢?显然,粒子应该前往盒子的中心。这个把粒子从盒子边缘驱动到中心的力就是“熵力”,这个力保证了粒子前往熵最大的状态。粒子受到熵力而引发的行为可以想象为围棋游戏中,一位好的棋手会尽可能地保障更多的行动自由。论文[4]的作者认为这就是智能产生的本质:智能就是主体为了确保未来的行动自由最大化的产物


1.png

                                                    图1:熵力驱动粒子从边缘向中心运动


为实现利用熵力驱动熵最大化,A. D. Wissner-Gross与他的同事合作开发了一个名为Entropica的软件[5]Entropica通过模拟熵力来演示复杂的动物与人类行为,比如人类直立行走、工具使用以及社会合作。

这里笔者仅以直立行走一例来说明A. D. Wissner-Gross的想法。A. D. Wissner-Gross利用“推车+木棍”(见图2)的这个系统来模拟人类“从猿到人”的转变。

在“推车+木棍”系统中,木棍最初是(向下)倒悬的,如果给推车“熵力”的作用,最终倒悬的木棍会旋转到(向上)直立的状态。并且木棍会稳定在(向上)直立的状态,这是因为木棍直立起来之后,就有了向下摆动的各种可能性,熵力正是要把系统驱动到未来选择最多的方向上去。


2.png

                       图2:熵力驱动木棍从下向上


   图2的视频地址:https://physics.aps.org/articles/v6/46


 A. D. Wissner-Gross想通过这个例子来说明人类直立行走的原因:人类有灵巧的双手,只有直立起来,双腿行走,灵巧的双手才被解放出来做各种事情(见图3),即行动自由更大。从这个意义上来说,熵力推动了这个“进化”的过程,进化的方向正是熵最大的方向。


3.png

                        图3:人类直立行走的演化       


目前,A. D. Wissner-Gross利用开发的软件Entropica注册了一个公司。下面是他在TED就“熵最大与智能”所做的一个演讲:

https://www.ted.com/talks/alex_wissner_gross_a_new_equation_for_intelligence

 

 

将熵最大作为解释智能的产生确实是一个很有吸引力的想法。不仅如此,甚至有人寄希望于利用熵最大来理解生物的进化,即用熵最大的“最可能者幸存”机制替代达尔文的“适者生存”机制[6]

众所周知,目前人类利用两套不同的理论来描述“演化”[6]。在物理学中,人类利用“无序(熵最大)”来理解物理世界的演化,而在生物学中,人类又利用完全不同的“有序的进化”来理解生物世界的演化。这种天然的演化割裂非常的让人困惑和不自然。

就以熵最大导致智能的例子,人们很容易提出反驳:熵最大代表无序最大,一个很脏的房间里面的微粒混乱到了极点,难道能说这个房间的微粒拥有智能?另外,大脑结构总是进化到“有序”而“复杂”,这与熵最大难道不是矛盾的吗?

这两个问题的确是非常重要的问题。它们其实联系到一个更加根本的问题:

熵最大是否可能导致高度有序的结构?

答案是肯定的。这就是笔者最新的一个工作,下一篇博文将对此作出介绍。


参考文献:

 [1]. Yong Tao, Competitive market for multiple firms and economic crisis, Physical Review E 82 (2010) 036118

[2]. Yong Tao, Spontaneous economic order, Journal of Evolutionary Economics (2016) 26 (3): 467-500

[3]. Yong Tao, Swarm intelligence in humans: A perspective of emergent evolution. Physica A 502 (2018) 436-446

[4]. A. D. Wissner-Gross and C. E. Freer, Causal Entropic Forces. Phys. Rev. Lett. 110 (2013) 168702

[5]. https://www.insidescience.org/news/physicist-proposes-new-way-think-about-intelligence

[6]. J. Whitfield, Survival of the Likeliest? PLoS Biol 5 (2007) e142.


转载本文请联系原作者获取授权,同时请注明本文来自陶勇科学网博客。

链接地址:https://wap.sciencenet.cn/blog-1253715-1123287.html?mobile=1

收藏

分享到:

当前推荐数:14
推荐到博客首页
网友评论12 条评论
确定删除指定的回复吗?
确定删除本博文吗?