twhlw的个人博客分享 http://blog.sciencenet.cn/u/twhlw

博文

我们如何走向真正的智能系统?

已有 846 次阅读 2021-1-15 21:15 |个人分类:2021|系统分类:科研笔记

一、目前人工智能技术的核心问题

近年来,人工智能技术不断渗入大众的日常生活中,技术发展变化日新月异。日常生活中,我们随处可见人工智能的身影:高效的信息分发(如GoogleTiktok)、各大楼宇中的人脸识别,甚至是我们常用的翻译工具……世界智能领域的专家学者们不断尝试更多的优化算法,各类算法指标不断被刷新,与此同时,人工智能在特定领域的应用能力逐渐逼近极限值。鉴于此,不少有志之专家学者自觉不自觉地停下来开始冷静思考,人工智能究竟该走向何处?

当前的人工智能及未来的智能科学研究存在两个致命的缺点:(1)把数学等同于逻辑;弗雷格、罗素等逻辑主义者一般是把数学归于逻辑学(logic)之下(“+logy”也成为许多学科(非所有学科)的字尾,譬如生物学Biology=bio()+logy(学科))。逻辑是探索、阐述和确立有效推理原则的学料。数学不等同于逻辑,数学研究空间形式和数量关系结构,是一种基于公理的逻辑体系;逻辑研究思维的形式结构。二者一致之处为“研究对象都是高度抽象的结构”。一方面,数学和逻辑的研究对象不同,数学的研究对象是客观事物的空间形式与数量关系,而逻辑学的研究对象是思维的形式及规律;另一方面,数学和逻辑的任务和目标不相同,数学的主要目标和任务是揭示客观事物的空间形式与数量关系的特征,探索其规律性,而逻辑的主要目标和任务却是为了解决思维推理形式的有效性或真实性问题。(2)把符号与对象的指涉混淆。符号重点在于表征,而对象重点在于意向性,一般来说,一种意向可以对应一种或多种符号,而一种符号代表的意向性也可以有多个指向(如能指、所指、意指)。 

二、智能的本质

人的学习是初期的灌输及更重要的后期环境触发的自主交互学习构成,而机器学习只有统计概率+规则算法的事实性累加功能,缺乏后期自主价值性学习能力(功能不会产生“如果”,只会有“那么”……,产生“如果”是能力才能干的事),与机器不同,人的学习不但是事实与价值的混合性学习,而且是权重调整性动态学习。人工智能就是由人教会机器学习,帮助人类更好的解决问题,AI没有能力,只有功能。此外,人的记忆也是自适应性的,且随人机环境系统的变化而变化,这也是机器存储望尘莫及之处。

人的智能在于知道自己的不智能,机器则不然。人类可以跳出概念理解并使用概念,机器自己并不具有拟合出合理概念的能力和方法。目前,智能认知相关理论发展主要经历三个阶段:第一阶段以博弈运筹学、控制论、信息论、系统论等相关理论为基础,主要目标是实现辅助计算;第二阶段是以专家系统、智能优化等相关理论为基础,主要目标是实现辅助决策,降低人的生理、心理负荷;第三阶段是以机器学习(包括深度学习、强化学习、迁移学习等)、数据挖掘、知识图谱、类脑计算等人工智能领域的理论成果为基础,主要目标是实现决策的自主化和智能化。由于博弈对抗的特殊性,传统意义上的智能认知将逐渐转移到人机融合的智能认知阶段,以达到隐真示假、去伪存真等洞察目的,具体体现在两大类七维度的人机深度态势感知上,即事实类(包括空间3+时间1维)+价值类(意识1+情感1+责任1维),在“快”和“准”的基础上,实现“好”(英语称之为right)。

真实的智能有着双重含义:一个是事实形式上的含义,即通常说的理性行动和决策的逻辑,在资源稀缺的情况下,如何理性选择,使效用最大化;另一个是价值实质性含义,既不以理性的决策为前提,也不以稀缺条件为前提,仅指人类如何从其社会和自然环境中谋划,这个过程并不一定与效用最大化相关,更大程度上属于感性范畴。理性的力量之所以有限,是因为真实世界中,人的行为不仅受理性的影响,也有“非理性”的一面。伦理对人而言还是一个很难遵守的复杂体系。简单的伦理规则往往是最难以实现的,比如应该帮助处在困难中的人,这就是一条很难(遵守者极容易上当被骗)操作的伦理准则。

智能不但要求有情有理,更希望通情达理、情理交融,比如,用老子的《道德经》(非常道、非常名)回答休谟之问(从客观事实being中能否推出主观价值should?),即用“等价”的相对思想取代“相等”的绝对意识(这也许会是新数学体系诞生的征兆)。相等与蕴含是现有数学(包括数、图、集合)的基石,也是计算的前提,更是人工智能的条件;而等价和类比则是复杂领域(包括跨域、交叉、融合)的关键,也是算计的本质,更是人类智能的精华。

等价是指价值性的近似相等能力,是一种开放性跨域穿透、自由驰骋、柔性弥散、相关无关,而相等是指事实性的一模一样功能,是一种封闭性约束规范、严格条件、一致边界、同根同源。相等就是在本质上一样,比如可以说22相等或相同,等价是指在意义一样,不能说1+12相等或相同,只能说等价,这是因为1+1在本质上是算式,而2是数字。细想起来,石头、剪子、布与鸡、虫、棒、虎是等价的而不是相等的。

在号称数学中的数学——范畴论里没有相等,只有等价,在真实的智能中相等也没有多少意义,这也是(以相等蕴含静态关系)数学为基础的人工智能手段为什么解决不了真实复杂博弈环境下(以等价类比动态关系)指挥控制问题之关键,态常常相等计算,势往往等价算计,计算是绝对相等,算计也许就是相对等价了,想要获得一些东西,在人的定义里,可以牺牲一些东西,而机做不到这样的算计。微积分、数字电路中的高低实质就是近似等价逼近计算关系。

从逻辑模型论的角度上来说,等价与相等关系严格来说并不是一个对象或者符号上的关系,而是一个指称上的关系。相等逻辑符号的解释是固定的,但是等价非逻辑符号的解释是不固定的,给一个模型的时候我们需要解释这些等价非逻辑符号。

真实对象的相等,不是什么公理下的相等,更不是什么同构下的相等。把函数相等看做定义域、值域、对应法则一样就已经被洗脑了。范畴论或者用别的语言完全可以硬是把两个定义域、值域、对应法则都一样的函数看做两个不同对象,只是这在大部分情况下既没有必要又不符合直觉。

人机融合智能之所以可以颠覆,原因是它不但可以植入人工智能所不具备的反思能力和自主创造能力,而且还可以解决人工智能所不能解决的知识相悖性和无穷性。 

三、AI发展必经之路:人机环高效协同

表面上,人工智能工程应用的目的是把AI嵌入到人的生活场景中,而实际上,真正的智能系统关键之处在于如何实现把人、机、环境嵌入智能系统中。这里最难的是将纠缠在一起的客观事实与主观价值进行有效叠加处理,或通过反向强化学习(通过观察已经学习了有效策略的智能主体行为,我们可以推断导致这些策略发展的奖励)或通过价值对齐(使自动化智能系统与人的价值对齐,共同完成最大利益化)或通过有界高速最优性理性行为(有界最优主体并不总是关注选择正确的行动,它们更关注的是找到正确的算法,在犯错误和思考太多之间找到完美的平衡)等诸多方式来实现。

人的经验性概率(人们常常根据记忆中的难易程度推测事件发生的概率)与机器的事实性概率不同,它是一种价值性概率,可以穿透非家族相似性的壁垒,用其它领域的成败得失结果影响当前领域的态势感知(situationawarenessSA),比如同情、共感、同理心、信任、责任等。那么,当前人工智能该如何打破瓶颈进入下一个高速发展时期呢?这里我们提出人机融合的办法,人机融合智能是一种新型智能形式,通过引入人的意向性来帮助人机协调各种智能问题中的矛盾和悖论。机器学习甚至人工智能的不确定性和不可解释性主要缘于人们发现发明的归纳、演绎、类比等推理机制确实有可能导致某种不完备性、不稳定性和相悖矛盾性,而且随着计算规模的不断扩大,这些不确定性和不可解释性越大,所谓失之毫厘,谬以千里。而人类的反事实推理、反价值推理可以从虚拟假设角度提前预防或预警这些形式化的自然缺陷。

记得有位西方学者曾说过:“所有模型都是错误的,只不过其中有些模型具有一定的参考作用罢了”,关键的问题是模型错到什么程度就没有用处了。数理模型的反思甚至诘难一直都存在,这主要有两方面影响因素:其一是有些人认为经济学模型不能很好的模拟现实,因为其复杂性,特别人很复杂。比如像博弈论这样非常具有逻辑的方法,会大量出现混合策略的均衡,但现实中这种策略并不普遍。所以经济学也开始引入心理学或者实验;其二是很多人反对的不是数理化,而是过度数理化。

人工智能可以解决常规问题,或者是大多数情况下的问题,但是却解决不了极端情况下意想不到的情况发生。一个人们在建立数学模型时常常会犯的错误就是为了建立简洁美观的数学模型忽略了这个模型成立时的条件。例如马尔科夫链的建立条件为当前节点的只与前一个节点有关,这种独立性的假设在很多时候是可以被接受的,因为距离越近的事件对当前的影响越大,但是在特殊事件发生时,模型就会失效,此时依赖于该模型的决策就会出现错误。有些错误是可以重来的,而有些错误是不可弥补的,这也就是在一些领域,不允许完全由人工智能把控全局的原因。举一个具体的例子,在视觉slam中,位姿的估计是一个递推的过程,也就是由上一帧位姿结算当前帧位姿,所以我们的位姿约束都是与上一帧建立的,但是每一次的估计位姿都会有误差,随着位姿地推的进行,误差也在不断的累计位姿,也就形成了我们所说的累计误差。Slam的做法是进行回环检测,也就是检测出相机经过同一个地方,从而将叠加的误差拉回到可接受的范围内。在人机系统中,可以通过人机的沟通更好确定人机在环境中所处的位置,从而进行类似slam中回环检测的功能,将机器数学建模中因为忽视一些微小条件而导致的叠加误差拉回到可接受的范围内。

人机融合中的人不仅括众人,机不但包括机器装备还涉及机制机理,除此之外,还关联自然和社会环境、真实和虚拟环境等。人机的根本区别就在于不同的表征、联结和交互。在一个系统中,人机的功能、职责分别在于准度和精度,准度涉及方向,精度关联过程。人和机的认知特性不同,人倾向于对信息整体程度的感知,而机器则更倾向于对信息细节的客观精确计算。人工(机器)智能擅长客观事实(真理性)计算,人类智能优于主观价值(道理性)算计。当计算大于算计时,可以侧重人工智能;当算计大于计算时,应该偏向人类智能;当计算等于算计时,最好使用人机智能。目前的一个问题在于系统的可解释性,我们认为可解释性的关键在于合适透明性所产生出的信任性,信任性的关键在于理解后的赞同,理解是对意义的把握,即把各种(事实、价值、责任等)可能相关事物有机整合在一起的能力,系统的可解释性不但包括对已有规则的解释,还包括构建规则的新内涵和外延。

人机功能分配是人的能力与机器的功能分配,人具有主动性的能力使然(使能),机体现被动的功能赋予(赋能),是人的动态算计与机器的准动态计算之间的分配。另外,人机能力/功能分配是一个不准确的概念,因为人具有的是一种超出功能作用的能力,准确的说,人机关系应该是人的能力与机器的功能如何有效协调的问题,再深入一下,人机关系更是一种人机环境系统交互的关系,人的能力会随着人机环境系统的变化而变化的(人的情境意识与态势感知会因时因法因环境而发生变化的),而机器功能则不会随人随环境而应变。因此,当01、非搅在一起时,人机环境之间经常失配、失互应该是正常的,人机环境之间的有机/有效配合反而显得多少有些不正常。鉴于此,笔者建议未来的人机融合问题最好分成三个不同的问题来简化整体设计流程以提高其匹配绩效:1、什么应该人工智能化(自动化)?2、应该如何人工智能化(自动化)?3、什么时候应该人工智能化(自动化)?

人机环系统高效协同的两个核心突破点:一是“泛事实”的向性。如国际象棋、围棋中的规则规定、统计概率、约束条件等用到的量的有向性,人类学习、机器学习中用到的运算法则、理性推导的有向性等,这些都是有向性的例子。尽管这里的问题很不相同,但是它们都只有正、负两个方向,而且之间的夹角并不大,因此称为“泛事实性”的有向性。这种在数学与物理中广泛使用的有性便于计算。二是“泛价值”的有向性,亦即我们在主观意向性分析、判断中常用到的但不便测量的有向性。我们知道,这里的向量有无穷多个方向,而且两个方向不同的向量相加通常得到一个方向不同的向量。因此,我们称为“泛价值”的有向量。这种“泛向”的有向数学模型,对于我们来说方向太多,不便应用。 然而,正是由于“泛价值”有向量的可加性与“泛物”有向性的二值性,启示我们研究一种既有二值有向性、又有可加性的认知量。一维空间的有向距离,二维空间的有向面积,三维空间、乃至一般的N维空间的有向体积等都是这种几何量的例子。一般地,我们把带有方向的度量称为有向度量。态势感知中态一般是“泛事实”的有向性,势是“泛价值”的有向性,感一般是“泛事实”的有向性,知是“泛价值”的有向性。人关系有点像量子纠缠,常常不是“有或无”的问题,而是“有与无”的问题。有无相生,“有”的可以计算,“无”的可以算计,“有与无”的可以计算计,所以未来的军事人机融合指控系统中,一定要有人类参谋和机器参谋,一个负责“有”的计算,一个处理“无”的算计,形成指控“计算计”系统。既能从直观上把握事物,还能从间接中理解规律。

人机混合常常是人+机(侧重事实性数理物理结合,价值性结合较少);而人机融合往往是人*机(既包括事实,也涉及价值,既有数理物理交互,也有心理伦理交流)。人、物(机)、环境三者可以生成万物,有显性有隐性,有阴有阳,态势感知、计算计、功能力也都有显性、隐性/阴、阳之分,现在的人工智能及其相关领域大都只研究显性的、阳的一面,故意或不故意地忽略了隐性的、阴的一面,所以我们应该对各种数据、算法、算力(包括量子计算)、知识抱有“科学”的怀疑态度,取其之长,补其之短,切实把侧重西方的机(科技)与注重人、环境的东方思想有机结合起来,形成中西合璧的人、物(机)、环境系统优势。另外还有一点,人机环境系统的粒度大小、范围程度和复杂性每升到一个新级别,都会有新的组织形式出现,其模式会以新方式编码数据、信息和知识,其行为也会以新概念进行描述,如个性化的智能就与群体智能编码表征、逻辑推理、交互决策就很不相同。 

四、结语

休谟认为:“一切科学都与人性有关,对人性的研究应是一切科学的基础。”,任何科学都或多或少与人性有些关系,无论学科看似与人性相隔多远,它们最终都会以某种途径再次回归到人性中。智能仅是解决问题的一种工具手段,若不与日常生活中的风俗习惯、伦理道德中的仁义礼智信勇、法律中的边界规则统计概率等诸多方面相结合,就很容易泛滥成灾而不可控制。真实的智能不是万能,它不但涉及事实性的真假问题,还应该包括价值性的是非问题,更与责任性的大小轻重密切相关,所以,严格意义上讲,智能是许多领域的一连串组合应用。

人类智能的核心是意识指向的对象,机器智能的核心是符号指向的对象,人机智能的核心是意识指向对象与符号指向对象的结合问题。它们都是对存在的关涉,存在分为事实性的存在和价值性的存在、还有责任性的存在。

想象一下,未来的某一天,机器可以运用人设定的程序发展出各种可能性,开始真正意义上的自我认识和自我否定,能够有目的的自我修正,并且不断意识到自已的无知而突破自我,正如阿尔法狗在围棋领域所展现出的无限可能性一样,此时,这种个性化的精神形成也许就是革命性智能的伊始吧!




http://wap.sciencenet.cn/blog-40841-1267403.html

上一篇:通往智能之路
下一篇:电影与游戏

1 彭真明

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2021-4-22 02:46

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部