||
人机之别,一个是非之心,一个是否(是不是)之芯
计算使用参数建模,算计创造参数建模。
在这篇文章中,Yann LeCun 和 Jacob Browning 探讨了人工智能和人类智能的一些问题,且首次正式回应「深度学习撞墙了」这个观点。
今天看似不可逾越的墙是符号推理,即以代数或逻辑的方式操纵符号的能力。我们知道,解决数学问题需要根据严格的规则逐步处理符号。作为《The Algebraic Mind》(中文版见上图)的作者和《Rebooting AI》的作者之一,Gary Marcus 最近声称深度学习无法进一步取得进展,因为神经网络在处理符号操作方面存在困难。然而,许多深度学习研究人员确信深度学习已经在进行符号推理并将持续改进。
这是一场关于深度学习前景的辩论。辩论的核心是对符号在智能中的作用存在两种不同的看法:一种认为符号推理必须从一开始就被硬编码,另一种认为机器可以像人类一样从经验中学习。这涉及到我们应该如何理解人类智能,进而去追求人类水平的人工智能。
符号推理需要精确的计算规则。例如,符号可以有许多不同的顺序,(3-2)-1 和 3-(2-1) 的区别很大,以正确的顺序执行正确的规则至关重要。Marcus 认为,这种推理是认知的核心,对于为语言提供潜在的语法逻辑和数学的基本操作至关重要。更广泛地说,他认为因果推理等更基本的能力背后有一个潜在的符号逻辑。
神经网络可以精确训练,因为实现的函数是可微的。换句话说,如果符号人工智能类似于符号逻辑中使用的离散 token,那么神经网络就是微积分的连续函数。这允许在学习更好表征的方向上稍微调整变量来实现缓慢、渐进的进展,这意味着所有数据点之间的更好拟合以及函数在类别之间存在边界。然而,当涉及到严格的规则和离散符号时会出现问题:求解方程时,我们通常需要准确的答案,而不是近似值。
这是符号人工智能的优势,Marcus 建议简单地将两者结合起来:在深度学习模块的顶部插入一个硬编码的符号操作模块。这听起来很有吸引力,因为两种方法可以很好地互补。因此,一个具有不同工作方式的模块混合系统似乎可以提供两全其美的效果。深度学习领域也认同符号操作是创建类人 AI 的必要特征。
但争论的焦点是符号操作是否需要内置到系统中,其中符号和操作能力是由人类设计的,形成一个用于操作离散符号的模块。该模块是不可微分的,因此与深度学习不兼容。但这些建立神经网络不能进行符号操作的假设基础上。
概念是思维的基本单位。明确概念是判断与推理的前提和基础,如果没有清晰的概念的界定,由此而来的判断和推理就也就很难保证其正确性。算计不是计算,更不能把算计异化为单纯的理性逻辑。这些概念替代算计并作为智能术语,必然给人机混合智能的理解及执行带来了巨大的混乱。
智能是自然与人工的结合,准确地说,依目前的数理、物理水平,通过编写计算机程序是不可能实现人类水平的智能的,必须另辟蹊径。人机之间、态势之间、感知之间、计算与算计之间常常具有非互惠作用现象,即作用力不等于反作用力。如何量化分析这些等慧相互作用呢?并且,现有的逻辑体系很难判断处理各种意外,如塞翁失马的大逻辑与刻舟求剑的小逻辑。人机结合现阶段很难实现有机的融合,仍处于相对简单的交互水平,难点之一就在于价值意向性的形式化。
鉴于机器只有局部性事实逻辑,没有人类的整体性价值逻辑,我们可以尝试把人机结合起来进行功能与能力的互补,用人类的算计这把利刃穿透机器计算不时遇到的各种各样的“墙”。
人机融合中有价值的东西通过动态环境使得事实过程变成对智能逻辑而言有意义的事情,事实不因事实本身是什么而是什么,而是在与价值的融合之中是其所是,这就需要建立一套新的逻辑体系以支撑之,即人机融合的计算-算计逻辑体系。
相比之下,人重价值逻辑,机偏事实逻辑,人侧辩证逻辑,机向形式逻辑。那么人机融合则是辩证的形式逻辑or形式的辩证逻辑,这就涉及到一个逻辑转化的难题,即事实形式化逻辑如何转化为价值辩证逻辑,或价值辩证逻辑如何转化为事实形式化逻辑问题。
表面上,人类的辩证逻辑是用来思考问题而不是解决问题的,解决问题要靠形式逻辑。实际上,这是缘于对形式化计算逻辑与辩证性算计逻辑的认识不清所致,与计算思维不同,算计思维方式在很多方面都与计算逻辑相悖。
从历史上看,计算逻辑思维的基础确立在下述3个定律之上。
1.同一律:A=A,无论是什么,它就是它。A是它本身,而不是其他什么事物。
2.无矛盾律:A和非A不可能同时发生。没有什么事物同时既是它又不是它。一个命题和它的相反面不可能同时为真。
3.排中律:任何事物一定要么是,要么不是。A或者非A为真,但两者之间不存在其他情况。
而算计逻辑思维常常认为:
1.非同一律:A/=A:无论是什么,它不一定是它。A既是它本身,也可以是其他什么事物,阴中有阳,阳中有阴,万事万物不易、变易、…随机而变,不是静止固定不变的、甚至是可以相互转化的。
2.矛盾律:A和非A可能同时发生。任何事物同时既是它又不是它。一个命题和它的相反面可能同时为真。在特定情境下,可以白马非马,可以白马是马,可以指鹿为马,还可以指马为鹿。
3.非排中律:任何事物不一定要么是,要么不是。A与非A可以同时为真或假,两者之间可以存在其他情况。符合量子物理中的叠加、纠缠,一个事物的属性及与其它事物的关系往往与观察者有关。
世界是复杂的,复杂的世界不都是科学和计算,而是科学与非科学、计算与算计融合的计算计系统。
而计算计系统需要崭新的逻辑体系支撑,而不仅仅是与或非等“石器和木棒”。
计算如剑,算计如桥
LeCun与Marcus的观点都对,也都不对
LeCun、Geoffrey Hinton 等人认为神经网络不需要将符号和代数推理硬编码到其中就可以操纵符号。深度学习的目标不是机器内部的符号操纵,而是世界系统中出现的正确类型的符号使用行为。
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2024-9-24 00:02
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社