twhlw的个人博客分享 http://blog.sciencenet.cn/u/twhlw

博文

军事智能化的瓶颈与关键问题研究

已有 1918 次阅读 2021-6-27 11:58 |个人分类:2021|系统分类:科研笔记

摘要:人类文明历经了近万年的坎坎坷坷,几度辗转,几经变革,直至今日,人工智能的兴起才极大地触发了人们对智能含义的深度思考,因为只有充分了解了智能的本质,才可能将人与机器、环境更好地融合,实现真正的军事智能。本文阐述了对智能的理解与观点。首先,根据DARPA的智能研究动向与不足,提出智能是一个复杂系统,其思想基础和目的是如何把人的诸多主动能力价值浸入到机器的被动事实处理功能之中,并形成人机融合的完整事值性(事实+价值)智能协同功能力(功能+能力)系统,既包括计算(机)也包括算计(人),是实现军事智能的关键所在:计算计(计算+算计)进行高效地结合;之后对计算与算计的关系进行了阐述,即“计算是基于事实的功能,算计是基于价值的能力”;然后指出智能是解决问题的工具和手段,并不是万能的;最后对军事智能与人工智能的关系进行了思考,指出了军事智能与机器智能的不同,进一步提出人类智能的基石并不是数学。

关键词:人工智能;人机融合;功能力;计算计;深度态势感知

 

尽管最近几年,人工智能在军事领域催生了高度智能化武器及各种无人作战平台,并且进一步加速推进了战争形态向智能化战争演变和转化,但是大家对于军事智能和智能概念的理解不是越来越清晰,反而对此有意/无意的迷惑却越来越多,甚至严重制约了这种号称“改变战争游戏规则”颠覆性技术的进一步发展,本文在这里试图根据国内外相关研究把这几个概念的内涵外延解释清楚,不当之处,还望大家批评指正!


一、DARPA的智能研究动向与不足


DARPA在继续开发第二代人工智能技术及其军事应用的同时,积极布局第三代人工智能发展,旨在通过机器学习和推理、自然语言理解、建模仿真、人机融合等方面的研究,突破人工智能基础理论及核心技术。相关项目包括:“机器常识”,“终身学习机”,“可解释的人工智能”,“可靠自主性”,“不同来源主动诠释”,“自动知识提取”,“确保AI抗欺骗可靠性”,“加速人工智能”,“基础人工智能科学”,“机器通用感知”,“利用更少数据学习”,“以知识为导向的人工智能推理模式”,“高级建模仿真工具”,“复杂混合系统”,“人机交流”,“人机共生”,“开放世界奇异性的人工智能与学习科学”,“人机协作社会智能团队”,“实时机器学习”等。

DARPA的不足在于“得形忘意”,没能解决军事智能的痛点和难点:兵者诡道也。如孙子的“兵者,诡道也,故能而示之不能,用而示之不用,近而示之远,远而示之近” ,克劳塞维茨的“战争中得到的情报,很大一部分是互相矛盾的,更多的是假的,绝大部分是相当不确

实的。这就要求军官具有一定的辨别能力,这种能力只有通过对事物和人的认识和判断才能得到。在这里他必须遵循概然性的规律。”

古代《孙子兵法》的生命力在于思维战胜了物理,近代《战争论》的缺点在于把战争看成了理论,未来“人机环境系统智能”的特点在于加上了“天时、地利、人和”之外的“机辅”。

总之,DARPA的军事智能化的核心在于两个支柱,一个是“机器学习”,另一个是“自主系统”,但当代的自主系统还是“伪自主”阶段,究其因是其底层的技术架构:机器学习和大数据处理机制局限所致。无论行为主义的强化学习、联结主义的深度学习,还是符号主义的专家系统都不能如实准确地反映人类的认知机理,比如直觉、情感、责任、价值等。

另外,美国国防部2018年6月成立的“联合人工智能中心(JAIC)”专职责军队智能化建设的机构,开始统筹规划建设智能化军事体系。2021年,该中心将以各军种工作为基础,专注于作战人员的整合和人工智能生态系统的创建。其重点是:军事人机环境生态智能系统的建构。


二、目前人工智能技术的核心问题


当前的人工智能及未来的智能科学研究存在两个致命的缺点:(1)把数学等同于逻辑;弗雷格、罗素等逻辑主义者一般是把数学归于逻辑学(logic)之下(“+logy”也成为许多学科(非所有学科)的字尾,譬如生物学Biology=bio(生)+logy(学科))。逻辑是探索、阐述和确立有效推理原则的学料。数学不等同于逻辑,数学研究空间形式和数量关系结构,是一种基于公理的逻辑体系;逻辑研究思维的形式结构。二者一致之处为“研究对象都是高度抽象的结构”。一方面,数学和逻辑的研究对象不同,数学的研究对象是客观事物的空间形式与数量关系,而逻辑学的研究对象是思维的形式及规律;另一方面,数学和逻辑的任务和目标不相同,数学的主要目标和任务是揭示客观事物的空间形式与数量关系的特征,探索其规律性,而逻辑的主要目标和任务却是为了解决思维推理形式的有效性或真实性问题。(2)把符号与对象的指涉混淆。符号重点在于表征,而对象重点在于意向性,一般来说,一种意向可以对应一种或多种符号,而一种符号代表的意向性也可以有多个指向(如能指、所指、意指),人类可以用“一花一世界,一树一菩提”灵活地表征任何事物,而目前的机器却只能用固定打标的方式孤立静止片面地表征一个事物。 

这两个缺点直接诱发了以下几个很难解决的智能领域及军事智能领域问题:1、客观数据与主观信息、知识的弹性输入——灵活的表征;2、公理与非公理推理的有机融合——有效的处理;3、责任性判断与无风险性决策的无缝衔接——虚实互补的输出;4、人类反思与机器反馈之间的相互协同调整;5、深度态势感知与其逆向资源管理过程的双向平衡;6、人机之间的透明信任机制生成;7、机器常识与人类常识的差异;8、人机之间可解释性的阈值;9、机器终身学习的范围/内容与人类学习的不同。


三、军事智能不是军事+AI


智能是一种由人、机、环境系统相互作用而产生的组织形式,是物理、生理、心理、数理、管理、哲理、文理、机理、艺理、地理、伦理、宗理等等多事实、多价值、多责任的混合适应体系,所以智能可能不是单纯的类脑(比如狼孩的人脑就没有人类智能)。

军事智能不是军事+AI,也不是AI+军事,军事智能本质就是军事博弈,其本身就包含了各种各样的智能形式(如反智能),所以更准确地说,军事智能是一种智慧形式(如塞翁失马),既包括科学技术,也涉及文史哲宗教等方面,属于复杂领域,其核心是“兵不厌诈”和“兵者诡道也”。其未来的发展方向是结合人、物(机是人造物)、环境系统融合的人类算计+机器计算(简称“计算计”)体系。

在军事智能中,对自动化、智能化概念的厘清非常重要,自动化是确定性的输入,可编程的处理,确定性的输出;人工智能是部分确定性的输入,可编程的处理,部分确定性的输出;智能是不确定性的输入,部分可编程的处理,不确定性的输出。人工智能(含自动化)与智能的区别是:一个是功能一个是能力。很多人期望得到的往往是能力,而不是功能,即通过人工智能功能实现智能能力,这就是期望与现实的矛盾之所在,同时也是人们失望之所在:把功能错看成了能力。军事智能需要实现的是一种的合成:功能+能力(简称功能力)。机器功能逻辑的基础是映射关系,而人类直觉能力的基础则是漫射、散射、影射,其中人类的想象力、创造力是一种情理融合之能力,也是“军事智能”的边界。所以仅开发出高性能智能产品或系统仍不可能提高体系的组织力和战斗力,该模型必须集成到运行技术系统、组织流程和人员运行流程中才能发挥其威力和效力。

军事智能化的瓶颈和关键问题:不是单纯的快、单纯的准、而是对,例如单纯机器计算的越精细、越准确、越快速,危险性越大,因为敌人可以隐真示假、造势欺骗、以真乱假,所以有专家参与的人机融合/混合军智相对显得更重要、更迫切、更有效。人机混合常常是指人+机(侧重事实性数理物理结合,价值性结合较少);人机融合往往是指人*机(既包括事实,也涉及价值,既有数理物理交互,也有心理伦理交流)。对于军事界而言,大多数认为:人必须在人-装备-环境系统中并掌控着该系统的关键使用(如许多科学家支持致命性自主武器系统(LAWS)宣言,以反对脱离人类控制的自主武器系统开发),这就要求两点,首先是必须可靠的人在系统中,而不能是不可靠的人在系统中;其次,要求人、机不能是平等的关系,可靠的人必须要掌控关键作用。所以这个角度看,对军事智能而言,“人机混合”要比“人机融合”一词要准确一些(可以保证人主机辅关系一致性)。

军事智能如同艺术的本质一样:不在于和谐、理性和规则,而在于紧张、冲突和斗争。这就是The art of war(《孙子兵法》)和现代性美学的共性。休谟认为:“一切科学都与人性有关,对人性的研究应是一切科学的基础。”,任何科学都或多或少与人性有些关系,无论学科看似与人性相隔多远,它们最终都会以某种途径再次回归到人性中。科学尚且如此,包含科学的军事智能也不例外。一般而言,人工(机器)智能擅长客观事实(真理性)计算,人类智能优于主观价值(道理性)算计。当计算大于算计时,可以侧重人工智能;当算计大于计算时,应该偏向人类智能;当计算等于算计时,最好使用人机智能,计算往往是从已知条件开始的逻辑(解决“复”),算计常常是从未知前提出发的直觉(处理“杂”)。涉及人、机、环境三者的军事智能如《易》一样,其核心都在于:变,因时而变、因境而变、因法而变、因势而变……费曼说:“物理学家们只是力图解释那些不依赖于偶然的事件,但在现实世界中,我们试图去理解的事情大都取决于偶然。”。人机环境之间的关系既有有向闭环也有无向开环,或者有向开环也有无向闭环,自主系统大多是一种有向闭环行为。军事智能中人机环境系统融合的计算计系统也许就是解决休谟之问(从事实中能否得出价值?)的一个秘密通道,即通过人的算计结合机器的计算实现了从“事实”向“价值”的“质的飞跃”。

如何实现人的算计(经验)与机的计算(模型)融合后的计算计系统呢?东方思想里的“易”就是一个典型的计算计(计算+算计)系统,有算有计,有性有量,有显有隐,计算交融,情理相依。其中的“与或非”逻辑既有人经验的、也有物(机)数据的,即人价值性的“与或非”+机事实性的“与或非”,人机融合智能及深度态势感知的任务之一就是要打开与、或、非门的狭隘,比如大与、小与,大或、小或,大非、小非……大是(being)、大应(should)、小是(being)、小应(should)。人的经验性概率与机器的事实性概率不同,它是一种价值性概率,可以穿透非家族相似性的壁垒,用其它领域的成败得失结果影响当前领域的态势感知SA,比如同情、共感、同理心、信任等。

凡事有好就有弊,手机不例外,智能也不例外。在人机环境系统动态交互(产生智能)时,由于时间、空间、对象、属性、关系、条件、规则、情绪、状态、趋势、感知等的变化,智能中的方式、方法、方案、手段、工具都会做适当的调整和重新组合,正可谓:时变法亦变。智能需要解决的常常是面对的真实问题,比如安全威胁、高效处理、准确预测等等。智能包含着过去的经验和数据,但不会仅仅依赖这些过去,它包还含着未来对此时的影响,比如期望的反馈。一般而言,不能随机应变的智能应该不是真智能。人机交互、人机混合、人机融合智能……中人工智能AI可以帮助人,也可以阻碍人,还可以毁掉人,比如过度依赖AI易造成失去人性中的自信、果敢和勇气等,做这些工作或申请项目时,望不要光看人机融合中计算计系统好的一面,还希望管理者、评审者也能客观地看到其不好的一面,在不少情境任务下,不好的概率可能更高一些!


四、主流人工智能学科仍无法理解军事人机融合智能领域


AI追求数据化、确定性和理性的解释,假定任何问题都有标准答案,把每个决策简单地变成约束条件下求解,变成数据计算。但是,真实世界里具有大量的不确定性,没有标准答案,需要人的想象力和算计,不是循规蹈矩。康德说:事物的特性往往与观察者有关,这与量子力学思想相通。也是军事智能的灵魂:人类的思维之争。

研究一个事物如果不从未来看它,往往会被它迷惑。计算是算计的产物,计算常是算计的简化版,不能体现出算计中主动、辩证、矛盾的价值。计算可以处理关键场景的特征函数,但较难解决基本场景的对应规则,更难对付任意场景的统计概率,可惜这些还仅仅只是场景,尚远未涉及情境和意识……

智能仅是解决问题的一种工具手段,若不与日常生活中的风俗习惯、伦理道德中的仁义礼智信勇、法律中的边界规则统计概率等诸多方面相结合,就很容易泛滥成灾而不可控制。真实的智能不是万能,它不但涉及事实性的真假问题,还应该包括价值性的是非问题,更与责任性的大小轻重密切相关,所以,严格意义上讲,军事智能是许多领域的一连串组合应用。

对于人、机而言,虽然都是将一个问题拆成几个子问题,分别求解这些子问题,即可推断出大问题的解,但是人的动态规划与机器的动态规划却是不同的:有经验的人可以游刃有余地将一个复杂性大问题拆成事实、价值、责任等不同性质的小问题来求解,即用事实、价值、责任的不同化法进行大事化小,小事化了,还可以避免各种鼠目寸光和画地为牢,而目前的机器对此异质合取化解问题依然望尘莫及,人工智能只会对比(不是类比),也许这也是人类智能的又一个瓶颈和难点:如何有效地处理异质性的非形式化问题。计算是事实性推理关系,低阶的算计则是价值性推理关系,高阶的算计更是事实价值混合/融合的推理关系,计算与算计是不同的因果关系。人类的“既…又…”关系往往不是“并”的计算关系,与具体态势算计有关。是非不同于对错,也不同于真假和01,孟子曰:是非之心,智也……

美国诺贝尔奖得主卡内曼在《快与慢》一书中将人类的本能意识快决策称为系统一,将人类的理性逻辑慢决策称为系统二,并考察了系统一与系统二之间的区别。经过我们进一步研究,人机环境系统的深度态势感知中应该还有决策系统三:人类理性与感性结合的不快不慢的right决策系统,即人机融合的计算计决策系统。


参考文献:


本文摘自《学术前沿》2021.5下




https://wap.sciencenet.cn/blog-40841-1292988.html

上一篇:一本新书的拟前言
下一篇:概念,是个超三体的问题,也是一个计算计问题
收藏 IP: 124.64.125.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-4-29 21:19

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部