刘伟
ChatGPT:一个人机环境系统交互的初级产品
2023-3-25 15:56
阅读:662

从人机环境系统智能的角度看,Chatgpt就是一个还没有开始上道的系统。“一阴一阳之谓道”,Chatgpt的“阴”(默会隐性的部分)尚无体现,就是“阳”(显性描述的部分)还停留在人类与大数据交互的浅层部分,简而言之,Chatgpt基本无“道”可言。暗知识、类比、隐喻等这些看似不严谨、无逻辑的东西绝非仅凭理性思维推理就可以得到的,而这些非逻辑、超逻辑(至少当前逻辑很难定义)的东西恰恰是构成人类智能的重要组成部分。或许,这也不仅是Chatgpt的缺点,整个人工智能领域又何尝不是如此呢?

粗略地说,人工智能技术就是人类使用数学计算模拟自身及其它智能的技术,最初是使用基于符号规则的数学模型建立起的机器智能(如专家系统),其次是借助基于统计概率的数据连接处理实现机器学习及分类,下一步则是试图借助有/无监督学习、样本预训练、微调对齐、人机校准等迁移方法实现上下文感知行为智能系统。这三类人工智能技术的发展趋势延续了从人到机再到人机、人机环境系统的研究路径(符号-联结-行为融合主义路径),其中最困难的部分(也是Chatgpt的瓶颈)是智能最底层的一个“神秘之物”——指称的破解问题,这不仅是自然语言与数学语言的问题,还更是涉及思维(如直觉、认知)与群体等“语言”之外的问题。

智能领域研究中最困难的不是如山一般的各种数学公式堆积,而是最基础最原始的概念剖析和理解,这与黎曼、戴德金、高斯强调“以思想代替计算”的数学原则有着异曲同工之妙(即数学理论不应该以公式和计算为基础,它们应该总是以表述清楚的一般概念为基础,而把解析表达式和计算的工具推给理论的进一步发展。)。鉴于此,分析Chatgpt也不例外,下面将从数据、推理(算法)、指称的交互方面分别阐述:

1、从数据的角度看,Chatgpt并不具备智能的本质特征

小样本小数据解决大问题,才是智能的本质。在许多场景中,交互双方的意图往往是在具有不确定性的非完备的动态小数据中以小概率出现并逐步演化而成的,充分利用这些小数据,从不同维度、不同角度和不同颗粒度猜测对手的意图,从而实现“知己(看到兆头苗头)、趣时(抓住时机)、变通(随机应变)”的真实智能。这完全不同于机器智能所擅长的大数据中可重复、可验证规律的提取,人类智能还擅长使用统计概率之外的奇异性数据,并能够从有价值的小数据中全面提取可能的需要意向,尤其是能够打破常规、实现跨域联结的事实或反事实、价值或反价值的猜测。ChatGPT中的GPT代表生成式(G)-预训练(P)-变换模型(T),就是一种大数据+机器学习+微调变换+人机对齐的程序模式,该智能体的行为是依据数据的事实性泛化来行动,但对泛化形成的行动价值其实是完全不知道的,这种泛化形成的行为结果常常是错误的、乃至危险的,如在对话中出现各种无厘头“胡说”现象,更不要说ChatGPT能够准确翻译相声、莎士比亚的笑话、指桑骂槐、意在言外了。

2、从推理逻辑的角度看,Chatgpt同样不具备智能的本质特征

把智能看成计算,把智能看成逻辑,这两个错误是制约智能发展的瓶颈和误区。事实上,真实的智能不但包括理性逻辑部分,也包括非/超逻辑的感性部分,构成人工智能基础的数学工具也只是基于公理的逻辑体系部分。Chatgpt的核心就是计算智能、数据智能,其所谓的感知、认知“能力”(准确地说应该是“功能”)是预训练文本(以后或许还有音频、视频、图像等形式)的按需匹配组合,既不涉及知识来源的产权,也不需要考虑结果的风险责任,虽然Chatgpt算法中被设置了伦理道德的门槛约束,但其可能带来的专业误导危害依然不容小觑(尤其是对未知知识的多源因果解释、非因果相关性说明方面)。

Chatgpt系统的“自主”与人类的“自主”不同。一般而言,Chatgpt的自主智能是在文本符号时空里进行大数据或规则或统计推理过程,这种推理是基于数学计算算法“我”(个体性)的顺序过程;而人类的自主智能则是在物理/认知/信息(符号)/社会混合时空里小数据或无数据进行因果互激荡推导或推论过程,这种因果互激荡是基于“我们”(群体性)的过程。西方的还原思想基础是因果关系,东方的整体思想基础是共在关系(共时空共情)。进一步而言,Chatgpt的计算是因果还原论,其知识是等同的显性事实知识,算计是共在系统论,其知识是等价的隐性价值知识。这里的推导/推论包含推理,等价包含等同,价值包含事实,但大于事实。

智能的关键不在于计算能力,而在于带有反思的算计能力。算计比计算强大于反事实、反价值能力,如人类自主里常常就包含有反思(事实反馈+价值反馈)能力。事实性的计算仅仅是使用时空(逻辑),而价值性的算计是产生(新的)时空(逻辑);计算是用符号域、物理域时空中的名和道实施精准过程,而算计则是用认知域、信息域、物理域、社会域等混合时空中的非常名与非常道进行定向。

3、从指称的角度看,Chatgpt同样不具备智能的本质特征

Chatgpt这类生成式AI不同于以往大多数的人工智能,此前大多数AI只能分析现有数据,但是生成式AI可以创作出全新的内容,例如文本、图片,甚至是视频或者音乐。但与人类相比,Chatgpt局限性包括:有限的常识和因果推理(偏向知识而非智力)、有限的自然语言和逻辑推理、缺乏在现实世界中的基础(没有视觉输入或物理交互)、性能不可靠且无法预测等,其中最主要的一个缺点就是不能实现人类的“指称”。

维特根斯坦在其第一部著作《逻辑哲学论》中对世界和语言进行了分层描述和映射,即世界的结构是:对象—事态—事实—世界,而人类语言的结构是:名称—基本命题—命题—语言,其中对象与名称、事态与基本命题、事实与命题、世界与语言是相互对应的,比如一个茶杯,在世界中是一个对象,在语言中就是一个名称;“一个茶杯放在桌子上”在世界中是一个事态,反映茶杯与桌子两个对象的关系,在语言中就是一个基本命题,该基本命题是现实茶杯与桌子的图象;“一个茶杯放在桌子上,桌子在房间里面”在世界中是一个事实,反映茶杯与桌子、桌子与房间两组对象的关系,在语言中就是一个命题,该命题是现实茶杯与桌子、桌子与房间的图象;世界就是由众多的事实构成的,语言是由命题构成的;这样世界的结构就与语言的结构完美地对应起来了。但是后来,维特根斯坦发现这个思想有问题,仅仅有世界与语言的对应结构是很难反映出真实性的,于是他在去世后发表的另一本著作《哲学研究》中又提出了三个概念,即语言游戏、生活现象、非家族相似性,通过这三个概念他提出了在逻辑之外的“指称”问题,也就是他所谓的 “不可言说的”、“应保持沉默”之物。实际上,他发现了人类思维中存在着“世界”、“语言”之外物:言外之意、弦外之音。这与爱因斯坦描述逻辑与想象差异的名言:“Logic will get you from A to B,Imagination will take you everywhere”(逻辑会把你从A带到B,想象力会把你带到任何地方)一语极其相似。同时,从人机环境系统的角度来看,这也印证了东方智慧中的一句名言:“人算不如天算”,也即:人只有智能的一部分,而不是全部。

对于人类智能的不足,维特根斯坦虽然意识到了,但没有提出恰当的解决办法,他的学生和朋友图灵却想到了一个办法,若把人类的理性逻辑与感性指称进行剥离,那么就可以通过数学的形式化系统对人类的智能进行模拟,当然这种模拟会丢失很多东西,比如感性、直觉等等,但为了实现初步的人工智能体系,也只好忍痛割爱了,这样一来,在有规则、复合逻辑的领域(如围棋对弈、文本浅层处理等),人工智能与机器可以代替人类。

4、从意识的角度看,Chatgpt同样不具备智能的本质特征

Chatgpt在词语的打标基础上实现了篇章上下文的打标、不少逻辑的打标、人机共同的打标,其核心在于依赖于自注意力机制来计算其输入和输出的表示的Transformer转换模型,实现了更快、更强的计算,但它依然没有突破人类大脑最深奥的问题:如何产生意识?或许,某种意义上说,意识就是“交互”,无论内在的交互,还是外在的交互,都是人机环境系统的态势感知事实与价值的算计,而不仅仅是简单的事实打标计算。事实常常是一阶的,而价值往往是二阶或高阶的,一阶对的,二阶或高阶里面却不一定对,比如地震了就跑这个事实是对的,但对于老师得先组织学生跑才是正确的,只顾自己跑就是不对的。世界上所有的知识都是有范围和背景的,离开这些范围和背景,知识的内涵外延会发生很大的变化,甚至可以相反,我们不但需要在已知中发现未知,有时候还需要在未知中发现已知,在这些方面Chatgpt基本上还无能为力,更进一步讲,数字人(如《流浪地球2》中Moss)能够通过摄像头对客观事实环境进行感知、识别、反应是可能的,但能否产生主观价值是目前科技和数学工具水平还远远解决不了的难题。能否实现以有限反映无限、以应然反映必然、以客观反映主观应是检验一个系统智能高低的标志之一,Chatgpt也不例外。

智能中的“意识”不是一个物理概念,不是一个数理概念,也不是一个单纯社会学概念,而是一个依靠客观事实与主观价值共同建构起来的思想层面的文化交互概念产物。我们在物理上生活在同一个空间里,在社会学意义上生活在相互交往的网络中,但并不意味着我们生活在同一个文化意义体系中。从西方二元对立的形而上学哲学转向二元互动的形而中学思想,从而将世界真理的基点从绝对上帝或存在(being,客观的“是”)转向生成变化、生生不息的道体(should,主观的“义”),这无疑将成为中国学术界为“地球村”探索智能基础的新开端。总之,智能不是人工智能,也不仅仅是西方科技计算能够实现的,需要加入东方智慧中的算计,才能形成具有深度态势感知的人机环境系统智能体系——属于人类的文明财富。

只有把情感注入到某个事情中,才能看到灵魂,对于人如此,对于智能体而言,也很类似,毕竟文明不但需要科学技术的进步,还需要人文艺术的滋养!目前来看,Chatgpt中显露出的情感成分还是与之交互者在特定对话环境下自发内生出来的情感因素。



mmexport1677718144226.jpg

转载本文请联系原作者获取授权,同时请注明本文来自刘伟科学网博客。

链接地址:https://wap.sciencenet.cn/blog-40841-1381795.html?mobile=1

收藏

分享到:

当前推荐数:2
推荐人:
推荐到博客首页
网友评论3 条评论
确定删除指定的回复吗?
确定删除本博文吗?