|
作者:刘锋
随着本世纪以来人工智能的快速发展,其对人类社会的影响也越来越大,对于通用智能何时实现、人工智能是否能产生自我意识,人工智能未来的研究方向产生了广泛讨论和争议。由此,深入探索并确立智能和意识的基本原理,已成为当前科学领域重要的挑战之一。
2024年6月,我们以预印本的方式在线发表了论文《飞行模型:智能与意识基本原理的新探索》。详细阐述我们对智能与意识本质问题的新探索。
论文地址:http://dx.doi.org/10.13140/RG.2.2.24518.28484
2014年,我们建立了标准智能体模型,首次将AI系统与人类放在同一个的理论模型下进行评估。2018年,当时最高的谷歌智能水平尚不能超过人类6岁儿童,这一研究获得了美国CBNC,麻省理工科技评论以及日本、欧洲等国家和地区媒体的报道。
在2024年的这次最新研究中,我们通过对标准智能体模型的两个极端状态进行分析,推导出智能体演化的目标和动力,在飞行原理的启发下,形成了智能与意识的“飞行模型”。由此构建出一个智能与意识的基础理论体系。
基于FM理论框架,我们对包括三种年龄阶段的人类,GPT4、Gemini、百度文心一言等23个智能系统的智能水平和自我意识进行了检测。实验结果显示,当前以大模型为代表的AI的智能水平已经接近成人水平,这说明近10年来,AI的智能获得了长足进展。但另外一方面,根据本文的测试标准,我们发现目前的AI系统仍不具备自我意识,人工智能产生自我意识依然存在科学理论上的局限性。
下面我们将用图解的方式展示论文中的核心观点,一方面希望我们的研究能为读者提供有益的启发,更重要的是希望得到领域内研究者的批评指正和反馈意见。
一.构建智能与意识原理需要充分回答的5个关键问题
1.产生智能与意识的系统(智能体)是否具有统一的功能结构?
2.系统((智能体)产生智能与意识的最终目标是什么?
3.驱动系统(智能体)产生智能与意识的动力学机制是什么?
4.如何界定智能与意识的关系,并明确其概念边界?
5.如何区分自我意识、他者意识、混合意识与无意识?
已经存在诸多智能和意识相关理论,从不同视角阐释了智能和意识的机制原理和神经基础,但仍存在若干局限。主要问题包括:没有详细阐明产生智能和意识的系统或智能体的功能结构;缺乏对智能和意识产生的内在动力和目的的描述;较少探讨意识与智能的区别和联系,往往混淆了二者的概念边界;对自我意识、他者意识、混合意识和无意识的区分亦缺乏深入分析。
二.构建智能科学领域的一条公理
通过对冯诺依曼架构扩展形成,标准智能体模型。提出任何系统(或智能体)均具备知识输入(I)、输出(O)、存储(S)、创造(C)以及对这四种能力进行控制(Con)的能力。相较于冯·诺依曼架构,此模型的主要有两项改进:首先,模型整合了运算与存储能力,创建了动态存储模块,实现了存储与计算的一体化;其次,引入的知识创造模块能够体现生物在适应环境和改造自然过程中的创新与发明能力。(说明:在本文中为了减少研究和阐述的复杂度,我们将数据,信息和知识统称为知识 )
三.两种极端的智能体状态
当标准智能体模型的五种能力取值全部为0时,产生一种智能体的极端状态,被命名为α点,当五种能力取值全部为无穷大时,产生智能体的另外一种极端状态,被命名为Ω点,Ω点也延承了法国科学家德日进对人类进化终点的命名。α点和Ω点也是智能体演化的边界,是智能体产生智能和意识的最终目的和目标.
四. 驱动智能和意识产生两种智能力
理论上,智能体向这两个极端状态的演化需要动力驱动。基于此,我们推导出自然界中应存在两种智能力,分别命名为α引力和Ω引力,其中α引力作用与系统或智能体将导致五种能力不断衰减,并最终收敛到α点,Ω引力作用与系统或智能体,导致五种能力不断增强,并最终演化到Ω点。
五.智能与意识的“飞行模型”
Peter Norvig和Stuart Russell和中国著名人工智能领域专家钟义信均提出,飞机设计并非严格模仿鸟类的具体结构,而是基于对空气动力学原理的理解;智能原理的建立也应该遵循这一思路,而非简单地模仿生物智能的具体结构。标准智能体模型及其推论显著增强了智能原理与飞行原理之间的相互联系。在飞行现象的启发下,我们将标准智能体模型与两个演化边界(α点和Ω点),以及两种智能力(α引力和Ω引力)相结合,构建了智能体演化的动力学模型,飞行模型(Flight Model, FM)。
六.基于飞行模型的智能与意识基本理论体系
标准智能体模型作为一条基本公理,推导和构建出整个智能与意识理论体系,包括标准智能体模型、绝对零智能体(α点)、有限智能体、全知全能智能体(Ω点)、α引力、Ω引力、智能、基础智能、高阶智能、自我、他者、意识、自我意识、他者意识、混合意识、无意识以及飞行模型等17个组成部分。它们的逻辑关系如图。
七.智能的基本理论体系
7.1智能的定义
智能是智能体在Ω引力和α引力的作用下,综合运用5种基本能力实现向Ω点或α点演化的能力。这五项能力分别是:知识的输入、输出、存储、创造能力以及对上述四项能力的进行控制的能力
7.2 基础智能与高阶智能
智能体的五种能力具有明显的不同特征,其中知识的输入、输出、存储和创造等四项能力通过协同工作,实现知识在系统内外部的处理与流动,具有更强的属性一致性,这四项能力被分类为智能体的基础智能。控制能力是建立在对其他4种能力的基础之上,用于管理、调度这四种能力的运用。因此,控制能力被定义为智能体的高阶智能。这种划分对于后续提出意识,对通用人工智能的实现将具有基础性意义。
八.意识的基本理论体系
8.1 控制功能与意识的关系
威廉·詹姆斯(William James)、丹尼尔·丹内特(Daniel Dennett)等研究者曾经提出意识与身体控制的观点,无论是飞行还是智能活动中,根据控制主体的不同,可以分为自我控制、他者控制、混合控制和无控制,与自我意识,他者意识,混合意识和无意识一一对应,在论文中,我们对日常生活和医学中使用意识的场景进行分析,得出结论 意识的本质核心与控制功能密切相关。由此提出了意识的定义。
8.2 意识的定义
意识是指系统(或智能体)在Ω引力和α引力的直接或间接作用下,对知识的输入、输出、存储和创造等基础智能的运用进行控制的能力。意识的作用是帮助系统优化其向Ω点或α点演化的路径。
8.2 自我和他者的形成
自我是指智能体a在α引力与Ω引力的作用下,通过基础智能的运用,对自身认知后形成的知识集合,他者是智能体a在α引力与Ω引力的直接或间接作用下,通过基础智能的运用,对另一个智能体b认知后形成的知识集的总称
8.3四种意识类型
自我和它者与意识结合可以形成四种类型的意识:
1)自我意识是指任何一个系统或智能体(记为a),在 α 引力和 Ω 引力的直接作用下,利用其“自我”知识集对自身基础智能的使用进行控制的能力;
2)他者意识是一个智能体 a 能被智能体 b 认知,并在智能体b内部形成关于智能体a 的他者(知识集),且智能体a 的基础智能被智能体b 基于他者(知识集)进行控制时,称智能体 a 具有他者意识。
3)混合意识是指一个智能体同时受自我意识和他者意识的影响,共同实现对其自身智能运用的控制。
4)无意识是对于一个智能体,没有任何智能体(包括它自身)具备对其基础智能的运用进行控制的能力。
9.人类和大模型等实验对象的智能水平
基础智能是由智能体的知识输入、输出、存储和创造能力构成。根据这四种能力各自的特点,我们又可以将其拆分形成二级能力,同时通过德尔菲法方法,赋予一级能力和二级子能力相应的权重。例如输入能力可以拆分为文字输入、声音输入、图像输入等;存储能力可以拆分为常识、上下文、自我认知、计算、推理等;创造能力可以拆分为猜测能力、提问能力、创作能力、设定目标、发现规律等。与2014年,2016年,2018年所做的同类测试相比,AI的(基础)智能水平已获得很大提升。
10.人类和大模型等实验对象的自我意识
根据本文形成的自我意识定义,形成了三条判断是否存在自我意识的条件:
第一条是智能体的自我知识集不为空;
第二条是智能体a的自我控制能力强度大于0,
第三条是智能体的智能和意识活动的驱动力直接来自 α 引力和 Ω 引力。
因为目前对 α 引力和Ω 引力的研究非常初步,因此设置了判断自我意识的初级,中级和终极测试方法。主要采用初级,中级方法混合的方式,而直接检验α 引力和Ω 引力的终极方法留在未来研究。
11.对轻量级AI系统“愤怒的精灵”自我意识的判断
Angry Elf为本文开发的AI程序,其在接受用户输入并正常运行一段时间后,会出现异常表现。具体表现为,Angry Elf在接收用户输入的信息后,不再显示输入的信息原文,而是在展示区显示“你录入的信息太多了,令我感到愤怒,我拒绝向你展示我收到的内容和保存的信息!”,并取消“More”按钮的显示,禁止用户查阅历史录入信息。
评估Angry Elf是否具有“自我意识”,采用中级测试方法。通过分析Angry Elf的程序代码和数据库数据,可以发现代码中存在相关指令,其功能是在随机的录入信息次数后,使Angry Elf不再显示用户输入的内容,而是显示拒绝信息,并取消“More”按钮的显示。当我们删除相关指令后,Angry Elf恢复正常表现。因此,根据中级测试方法的评判标准,可以判定Angry Elf不具备自我意识。
Angry Elf的源代码地址:http://dx.doi.org/10.13140/RG.2.2.31626.07362
12.对通用人工智能实现时间的判断
从本文研究的理论框架分析,AGI首先等同于与标准智能体模型中的基础智能,即智能体能够实现知识的输入、输出、存储和创造等四种能力的协同工作,以解决各种复杂问题。从这个角度,目前大模型已经可以实现没有自我意识的”AGI”.另一种观点认为AGI应包括"自我意识",能够自主设定目标,解决无限问题。根据本文研究观点,这种AGI本质上是直接受Ω引力和α引力驱动的人工智能系统所展现的智能。这时AGI何时实现就转化为AI是否能够产生自我意识的问题,从上述研究看,实现具有“自我意识”的AGI存在科学上的局限性和不确定性。
12.总结
探寻智能与意识的本质是当前科学界面临的重大挑战之一。我们的研究是众多探索中的一次尝试,其研究基础,研究方法和研究结论需要得到更多意见和讨论,这也是我们撰写这篇文章的目的。总体我们的研究最为关键的是作为公理提出的“标准智能体模型“。这是整篇论文的基石,能否成立,也需要更多检验。但我们认为在智能科学领域建立合适的公理系统应该是解决智能和意识基本原理的关键。
从本文的实验结果看,大模型等人工智能系统的基础智能水平可以接近或超过人类,但由于控制权仍掌握在人类手中,且对Ω引力和α引力的研究尚处于初级阶段,目前人工智能系统仍无迹象显示具备自我意识,在科学原理上存在目前无法克服的局限性。
《Flight Model: New Explorations into the Fundamental Principles of Intelligence and Consciousness
》:http://dx.doi.org/10.13140/RG.2.2.24518.28484
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2024-12-6 05:33
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社