收稿日期：2020-08-10

作者简介： 吕乃基（1945-），男，上海市人，教授，研究内容：科技与社会的关系，知识论，全球化。

摘 要：世界1必然突破自己的“界”，由螺旋式演化和发散-收敛生成新的自然界。世界3的演化路径，其一跟随由世界1生成世界2的脚步，行将突破；其二，以某种方式延续发散-收敛-发散的周期，新的收敛已出现在地平线。世界2，人类之好奇推动科学，控制欲推动技术，科技推动历史，对善的追求遏制本能，共同把人类带到今天的境遇。与此同时，世界2也逐步显示出自身的有限性。在人工智能发展的道路上，存在强、弱和量子范式等相互竞争的技术范式，弱人工智能较可能转化为现实的技术范式。目前有一段人与奇点人共存的窗口期，窗口期的关键是人机回圈。沿弱人工智能范式，可能走向“人心机脑”。正如人类既以已经存在的自然界作为自己的基础，又超越自然界；奇点人既不会“消灭”人类，因为这会毁去奇点人生存的基础；也不会与人共舞，因为人类和奇点人已不在一个维度。虽然如此，人类依然具有无限的发展空间。面临新的螺旋和收敛，人类可能因认知行为系统差异，以及利益和观念的冲突而发生分化。

只要人类一息犹存，就不会停下好奇与控制的脚步；只要人类不停下探索与支配的步伐，最终的征服对象就是人类自己。“征服”，也意味着升华。

关键词：大历史观 人工智能 三个世界 技术范式 人机回圈 奇点人

《系统科学学报》在2016年第4期发表了拙文“大历史观视野下的人工智能”^[1]（以下简称文献1），受到学术界的关注与好评。“再论”融入了四年来相关领域部分新的发展和笔者新的思考，（1）将“大历史观”区分为波普尔提出的“三个世界”；（2）由技术范式和三个世界的关系，理解人工智能的发展路径；（3）在奇点人与人的关系中，有必要关注人与人的关系。

1“界”的突破

波普尔在上世纪70年代提出“三个世界”的理论，世界1：客观世界，指自然界；世界2：人的主观世界；世界3：由客观知识组成的世界。由三个世界各自的演化来看，人工智能势将突破所有的“界”。

1.1世界1：“界”的突破

（1）螺旋式推进（详见文献1）。自然界并非“直线”推进，而是在一次次的螺旋式演化中不断突破自身的“界”（见图一（左））。

图1 （左）世界1：螺旋式演化  （右）现在就是最高

自然界经过一系列的螺旋式演化后生成人类，人类是自然界演化迄今的最高产物（图一（左）竖起来看就是图一（右））。螺旋式演化的脚步越来越快，周期越来越短，参加循环的物质的量越来越少（后文还有述及）。

（2）发散与收敛（图二（左）。详见文献1）。

自然界的演化呈现出周期性的发散与收敛。收敛，大致对应于螺旋式演化新的螺旋之起点；发散，大致对应于前一螺旋之终点；由发散到收敛的转折，则对应于两次相继螺旋的连接处。与螺旋式演化的节奏同步，发散与收敛的周期也越来越短。

图2（左）世界1：发散-收敛；（右）世界3：技术（科技黑箱）的“人化”与发散-收敛

收敛，并非将发散收拢起来合而为一，而是某个新的生长点在林林总总的发散中脱颖而出。发散，并非黑格尔所言之“杂多”，而是在历史上拥有共同的起点，逻辑上具备相同的基础，彼此间因具有在相应水平上的同一“标准”而兼容。

自然与自然界，中文对于Nature的描述，蕴含了演化与存在的关系。

自然，“然”是过程，“自”然，则是自己发生的过程。自然界，指的是此时此刻所展现出来的自然。自然，实际上是一连串前后相继的自然界。自然不断突破此刻的“界”，演化出新的自然界。由137亿年前的宇宙大爆炸至今，自然必将继续推进，而自然界必将不断突破自己的“界”。

现在就是最高（黑格尔）。自然界的“现在”就是“最高”的人，自然界的演化必将突破人的界限。世界1螺旋式演化和发散-收敛的规律将以某种新的形式体现在世界2和世界3。

1.2世界3的足迹

波普尔的世界3指“客观知识”。客观知识包括世界2对世界1、2、3的认识。世界2对世界1的认识得到客观知识，对此较少异议[①]；对世界2和世界3的认识是否为客观知识存在分歧。本文中主要关注较少争议的部分，也会涉及到世界2对世界2、3的认识结果。

世界2对世界1的认识所得到的客观知识，世界3，就是一般意义上的科学，确切地说，是自然科学。自近代科学革命以来，科学大体上循着量子阶梯沿三个方向发展。（1）沿量子阶梯上行。由无机物经有机分子如核苷酸、氨基酸，经生物大分子进入生物界，目前正在进入大脑和意识的层次。这一方向实际上就是追随自然界演化的轨迹，正在达到其最高点。（2）沿量子阶梯下行，由原子核经质子、中子到夸克和更深层次。这一方向实际上是回溯自然界演化的轨迹，直至大爆炸前的奇点。“量子意识”这一概念，或将建立这两个方向之间的联系。追随与回溯，两极相通。（3）沿量子阶梯扩展，将一般和抽象的客观知识置入个别和具体的语境之中，涉及特定主体及在特定范围内讨论客观知识，其成果主要体现在复杂性科学。生命科学和认知科学越来越涉及语境，相关的研究影响到人工智能的技术范式。固然，目前的领域还有无限的研究空间，但在量子阶梯上，世界3不会止步于人脑和意识的天花板。

知识经由技术实现物化，其主要形式是“科技黑箱”（见文献1）[②]，科技黑箱的总和构成了“人工自然”，也就是“人类学意义的自然界”（马克思）。两次工业革命的核心分别是热机和电机，热机和电机均需要以机械运动为基础。其实，在第一次工业革命前夕，有纺纱机和织布机的发展，钟表已经很精致了。合起来就是包括机械运动、热运动和电磁运动的基本物理运动。之后，尿素、染料、化工业是化学运动，生物技术涉及生命运动，人工智能则进入意识运动领域。人工自然在整体上走了一条“人化”之路。所谓“人化”，即在世界3的基础上，输入人与社会的因素，包括制度、市场竞争和价值观等，实现知识的物化，以满足沿马斯洛需求层次提升的需求。

知识演化的另一个途径类似于世界1的发散-收敛-发散。在前传统和传统社会，知识并不客观，其形式是隐性知识，与主体和语境不可分割。世界1、2与世界3之间存在千丝万缕的联系。生活在世界各地的原始部落各有自己的图腾，发展出各具特色适应语境的人工自然。知识及其物化皆不可通约，相当于黑格尔所言之“杂多”，类似于“知识之树”^[2]的根须。

现代的一大标志是出现了与世界1、2相分离，放之四海而皆准的客观知识，隐性知识转化为显性知识，其核心是科学知识，客观知识的物化即为科技黑箱。两次工业革命期间与之后科技黑箱的特点是大批量、标准化、可替代，相当于黑格尔的“内部无差别的一”。这就是知识之树的树干，是为收敛。

20世纪中叶后，复杂性科学兴起，关注语境及主体介入；科技黑箱趋于小批量、高情感、个性化，同时又彼此兼容，这是在收敛基础上的发散。物联网让包括自然与人工自然在内的万物互联，互联网让人人互联，人物互联。这就是黑格尔的“内部有差别的一”，知识之树的枝叶和树冠。在知识之树上，由下到上，两个相邻枝干的长度越来越短。知识的物化，越来越快地推出新的科技黑箱。

世界3的演化路径，（1）跟随人的脚步，行将突破；（2）以某种方式延续发散-收敛-发散的周期，新的收敛已出现在地平线。

1.3世界2的有为与有限

自人猿相揖别之日起，人类，世界2就开始了认识与改造世界1的进程，并在这一进程中开始建构世界3。世界2不断扩展、提升和修正世界3，使之跟随人的足迹，满足人的需求。这是世界2的有为。弗洛伊德在1930年写道，文明在多大程度上是建立在对本能的满足之上，又是在多大程度上以遏制强大的本能（以压迫、镇压或别的方法？）为前提^[3]。在大历史观视野下，人类社会似乎在总体上是本能略大于对本能的遏制。好奇推动科学，控制欲推动技术，科技推动历史。要是宗教大获成功，或许人类将止步不前；要是没有宗教，人类将自我毁灭。本能与对本能的控制，把人类带到今天的境遇。

瑞士人工智能实验室科学事务主管Schmidhuber认为^[4]，最终，AI 将改变一切，用一种人类绝不可能的方法殖民并改变整个太阳系、银河系和剩下的宇宙。人类文明只是一个更加恢弘的计划的一部分，整个宇宙迈向越来越不可估量的复杂的过程中重要（但不是最后）的一步，堪比 30 多亿年前生命的出现。这不止是另一场工业革命，这是超越整个人类甚至所有生物的变革。能够见证到这一过程的开端并且对此作出贡献，他感到非常荣幸。

凯文·凯利谨慎地表示，互联网产生的相当大一部分都是不好的。但只要互联网的积极的一面仅仅比负面效应多出1%，这1%会年复一年地滚动，历经数十年甚至上百年的复合产生收益。本能（好奇、控制……）或许正是比对本能的控制大了1%。正是这1%的不对称,“建构”了迄今的文明史。

然而与此同时，世界2也逐步显示出自身的有限性。

在认识世界1时，（1）沿量子阶梯下行，难度越来越大，只有少数精英有能力涉足，实验要求越来越高，涉及能级、控制和安全等，以及需要巨大的投入。（2）沿量子阶梯扩展，遇到复杂性科学的一系列否定性概念，如非线性、不确定、对称性破缺、非有序、涨落、突变、涌现、分岔、超循环，还有下行路上的叠加、塌缩和纠缠，以及主体的介入等等，传统的理性难以把握。（3）更大的问题是沿量子阶梯上行。不仅是生命科学、脑科学和认知科学本身的高度复杂性，而且在于认识主体与认识对象之间的“距离”越来越小。在自然界的演化中，人作为演化异化的产物，与自然界形成对象性关系，从而以主体的身份去认识作为对象的客体。既然如此，世界2如何“异化”，以认识人类自己？想起德尔菲神庙中所刻之言。与此有关的还有知识的积累性壁垒和代际教育（详见文献1）。

相比较而言更难以处理的是如何应对物化的知识。

（1）黑格尔的“现在就是最高”在此处同样得到体现。科技黑箱的演化已经由人的四肢、五官和内部器官，上升到大脑。在机器时代，卓别林降为机器，俯就机器，人机存在张力，张力即为动力。而今，人机界面友好，是否意味着天花板，同时也意味着世界3的发展失去来自世界2的张力？与此同时，世界3似乎正在由深度学习等获得自身演化的动力。

（2）往日，科技黑箱是人的“体外进化”，人操控这些体外的“器官”；如今，科技黑箱正在越来越多的把人的因素集成于其中。越来越多的科技黑箱，加上物联网和互联网，人内置于其中。科技黑箱及其集合，在人机关系中正在获得越来越大的权重。天人、人际、人己，人的“三大关系”正在，并已经演变为四大关系，增加了人机关系。“机”，就是科技黑箱，世界3。世界1，物竞天择，自然界充当“天”的角色；世界2，人类逐步获得选择权，行使“天”的功能，替天行道；而今，“机”，世界3脱颖而出，世界2正在向世界3让渡选择权。此情此景，来自世界2的伦理呼吁难以应对。

面对上述难题，世界2愈益感到力不从心。从根本上说，世界2的力不从心，源于世界2，也就是人类本身的有限性，例如米勒的“7±2法则”。这种有限不是“不为也”，而是“不能也”，源于人的生理局限^[5-6]。鲍捷在分析人类由哺乳动物认知行为系统，经分别与语言和文字对应的认知行为系统，到科技认知行为系统的演化后，提出“脱碳入硅”^[7]。

由世界1经世界2到世界3，先由世界1孕育世界2，世界2取得对世界1的支配权；世界2在认识与改造世界1之时孕育了世界3。世界3看来正在苏醒并取得对世界2和世界1的支配权。人猿相揖别，现在轮到奇点人与人“相揖别”。

图3 奇点人与人（请留意与图二（右）的区别）

同样，奇点人也不会是演化的终点，必将被更高级的存在所取代。

2走向“奇点人”之途

尽管存在“行为”、“功能”、“计算”等种种“主义”，笼统地说，通往“奇点人”的途径主要区分为强人工智能和弱人工智能。

2.1重科学的强人工智能与重技术的弱人工智能

强人工智能与弱人工智能之争在某种意义上可以归结到科学与技术的关系。相对而言，强人工智能更接近科学，在好奇心驱动下探索未知世界。这个未知世界的核心，就是人的意向性。换言之，强人工智能，就是在好奇心驱使下研究包含好奇心在内的意向性。“好奇心”既是研究的动力，其本身也成为人工智能的目标，此处即遇到前述“对象性”的难题；而弱人工智能则偏向于技术，倾向于在有限的范围内逐一实现特定的功能。

因为强人工智能与弱人工智能的背后有科学与技术之分，所以二者的思路和发展路径存在种种差异。

强人工智能的目标是发现未知，揭示人脑及其运行背后未知的秘密，核心是主体的意向性。强人工智能的驱动力是其背后人类数千年如一日的好奇心，是一往无前永不遏止的探索精神。且不要说人类的“意向性”，身边猫狗等宠物的意向性是否说的清楚？有必要沿生物进化的路径回溯，先从模拟昆虫、鱼和哺乳动物的大脑开始，再一步一步进阶到对人脑的模拟。“强人工智能（实在是）太远了。”（北京航空航天大学自动化学院副教授秦曾昌）。

强人工智能要求揭示功能背后的材质与结构，必须以“具有意识功能的材料为基质”（中山大学人际互联实验室主任翟振明），譬如说“微管”，由结构解释功能，以一个完整的人作为“人机回圈”的目标。2016/9/25上海AI小组闭门讨论会称，生命形态的不完整情况下发展的人工智能为“伪智能”。

站在技术的立场，弱人工智能则认为强人工智能没有必要，实现某个领域的有限功能无需舍近求远，不如且行且进。如果目标是制造“工具”，那么考虑特定类型的智能行为就已足够，何必再去考虑独立意识（南京大学教授、计算机软件新技术国家重点实验室常务副主任周志华）？

一部技术史，从工作机-动力机-控制学习机的线索来看，工作机、动力机、控制学习机，分解开来，逐一攻克。汽车并不是马，电机和热机未必如九牛或二虎，电脑虽在普适与情感等方面不如人脑，却在越来越多的个别和有限的场合胜似人脑。所谓“个别”、“有限”，就是边界明确，规则严密。弱人工智能，在这些特定的领域攻城略地，日益坚定地扩大自己的营地。譬如，记忆将能够移植，制造出能够支持大脑记忆库的芯片，教育制度将发生本质性的转变，学位颁授制度将废除，所有学校将消失。

谷歌未来学家：2029年人类开始实现永生（2021-02-17）[2021-02-17]https://mp.weixin.qq.com/s/_uooP_mkk5xwMO9obGJ4Og

科技黑箱不介意牛马的质料与结构，重在功能的实现。弱人工智能把人的日常生活与工作中有规可循的行为编码编程，大数据加算法加算力，做成控制学习机。再配套相应的工作机与动力机，脚踏实地步步为营，可能在数十年到百年间迎来“奇点”。

强弱人工智能的区别还体现在人机回圈上。作为科学的强人工智能，“机”是科学研究过程中所提出的“模型”，例如对于原子的“葡萄干面包”和“行星式”模型，关于银河系的“水缸里的漩涡”模型，以及DNA的“双螺旋”模型等。对于强人工智能来说，“机”是模型，主要并不有意实现什么功能，而是旨在认识大脑的结构，理解和揭示意识的本质，这是模型的目标。强人工智能希望以与人脑尽可能类似的材质与结构出发获取相应的功能。就此而言，强人工智能会与生物技术走得比较近，与哲学走得比较近。会聚技术可以理解为这些领域的综合。

强人工智能与弱人工智能的人机回圈中的“机”不同，“人”也不同。在作为技术的弱人工智能看来，人机回圈中的人是现实社会中的各色人等，他们的行为准则和需求。作为科学，既然强人工智能中人机回圈的“机”是认识过程中的模型，那么人机回圈中的人就不是现实社会中的人，而是作为“类”的人。在一次次回圈中，模型无限逼近原型。一项新的进展是麻省理工学院的“类脑芯片”，人造突触，是可以用于终端的便携式低功耗神经形态芯片，可将人脑能力“复制”到芯片，从而为实现神经网络硬件化打下坚实的基础。

围棋大赛表明，一旦斩断情缘心魔，人工智能之“智”，即可超越与“心”“情”捆绑在一起的“智”。科学技术未必沿着人作为整体，情商与智商，心脑同步进化的路径，而是可以走心脑分离的路径。人工智能之所求原本只是“智”，而非“情”非人；旨在由“智”来实现形形色色的“能”。未来的人工智能有没有“心”？如果有的话，多半是“冷酷的心”。

2.2第三条道路：“量子范式”（吕乃基，人工智能研发的技术范式，科技中国2020，9，80-84）

第三种范式相对模糊，大致是以“量子”作为认知与实践的出发点，有可能逐步在人工智能研发的“强弱”技术范式之争中获得一席之地。如果意识的本质是量子纠缠，以及量子计算和量子计算机获得突破，量子范式或许在人工智能的发展增加其权重。

以上三种范式主要限于与人工智能直接相关的研发人员的立场观点，只是“前技术范式”，能否发展为成熟的技术范式，取决于哪一种具有更大的应用前景和获得更多的投资。目前看来，弱人工智能有较大可能或已经成为现实的技术范式。

现在的弱人工智能就像地球早期软泥中的氨基酸，可能突然之间就形成了生命^[9]一样有了某种“意向”。此即“涌现”，然而此意向非彼意向。正如猿不理解人之意向一样，人类也不可能完全把握奇点人的意向。

对于强人工智能来说，一方面在应用端眼下得不到来自市场和资本的支撑，另一方面，目前相关的科学水平看来尚不能成为其技术范式的基础。至于量子范式，在一定时期内尚不能成为人工智能技术范式的竞争者。

就“三个世界”的视角来看，强人工智能主张世界3不要偏离人类的脚步；弱人工智能则剑走偏锋，世界3可能在人类之外另辟蹊径。正如当年人类不是沿着最强大的动物的轨迹，而是走自己的路一样。

3人类是否可能为自己安排好后事？

具体涉及两个问题：（1）人类作为整体与奇点人的关系；（2）在与奇点人的关系中，人类自身的分野与关系。

3.1由人机回圈到机机回圈

当下，世界1正在突破人类的“界”，现有最高的螺旋走向顶端，新的螺旋正在起步；待到发散走到头，便会迎来新的收敛。世界3正在获得自己的生命，奇点人呼之欲出。世界2既受本能推动发展人工智能，又在种种伦理考量下战战兢兢。在人类与奇点人之间会有一段共存的“窗口期”。在这段窗口期，人类的所作所为将关系到是否可能，以及如何为自己安排好后事。关键是人机回圈和众机回圈^[10]（为行文简洁，以下如无特别说明，人机回圈含众机回圈）。人机回圈的进程关系到人类的命运。

如果把“回圈”中的“机”理解成一般意义上技术的产品，那么在大历史观视野下，在人猿相揖别的第一天起，“人机”就一直在“回圈”之中。回顾人类历史上的“人机回圈”，有助于理解人工智能中的人机回圈及其趋势。

除了极少数情况外，动物与自然界之间是没有中介的直接关系，灵长类动物使用的工具，也是身边基本上未经加工的树枝、石块等。人类社会与动物世界的区分之一是，人类社会与自然界之间是经由形形色色知识的物化——科技黑箱的中介而形成间接的关系。

动物直接面对自然界，唯有通过基因的变异改变自己的命运，偶然、不能控制，以及耗费巨大时间成本，最终依然接受“适者天择”的命运。

人类，世界2，在认识世界1的过程中建构了世界3，随后是知识的物化，科技黑箱。人类以世界3为中介与世界1相处，以及与人类社会相处，在相处中发现新的问题，提出新的要求，进而发明新的技术。在这一过程中一步步减少偶然性，以及极大地缩小时间成本，以获得在世界1与世界2中越来越大的控制权和自由度。

可见，实际上存在两个“回圈”，（1）人机回圈，（2）“机”与环境（包括世界1和世界2）之间的“回圈”。前者是改变人与环境关系的手段，后者是人在与环境的关系中希望实现的目的，由此检验人机回圈的效果与不足，给出下一步人机回圈的目标。两个“回圈”同步推进。可以把“机”与环境之间的“回圈”理解为人机回圈的语境。人机回圈，貌似所有的过程只是发生在人机之间，实际上环境自始自终都是不在场的参与者。正是在人机之间一次次的回圈中，人在与环境的关系中获得越来越大的自由。

就此而言，一部人类史就是在与相应语境的关系中，人机回圈衔接世界1的螺旋式演化，自身螺旋式上升的历史，或者说，人类史以人机回圈的方式推进。人工智能中的人机回圈，实际上是人类历史以往人机回圈的延续和最高阶段。

语境介入，是人机回圈中的重要方面，意味着在不同，也就是有限的语境中，必然发生不一样的人机回圈。由此可以反过来理解前述人工智能的技术范式。弱人工智能追求在有限的场合，譬如围棋，做到极致，做单项冠军。

人机回圈可以区分为三个环节，由人到机，计算，以及由机到人。第一个环节由人到机，在世界1及其规律的基础上，叠加世界2的目的，数字化。第二个环节是在规律的先决条件和目的的引导下进行计算。众多因素按某种规则进行博弈与合作，经由编程、由不确定到确定，塌缩，制造出新的科技黑箱。第三个环节再由机到人，（1）人接受操作新的科技黑箱之律令和计算的结果，（2）科技黑箱作用于事先确定的语境并接受反馈，处于语境中的人一方面获得运行科技黑箱带来的自由，同时又感受到某些不足，反馈进入下一轮人机回圈。可以深入探讨人机回圈的界面，如脑机接口，芯片植入，经由界面分别传递了什么内容和发生什么变换。

总体而言，由人到机可以理解为科技的人文化，由机到人则是人文的科技化。放在大历史观的视野下，由人到机是世界1和世界2向世界3迁移；由机到人，既是世界2在由新的“机”组成的世界3的基础上实现需求和获得新的自由，也是世界3在新的高度实现对世界1和世界2的规约或掌控。在一次次人机回圈中，科技黑箱越来越具备自己获得知识，自我演化的能力，如柔性化生产、自适应、自学习等，由阿法狗到阿法元是一个典型。“机机回圈”，正在人机回圈的母腹中孕育成长。

3.2人类作为整体与奇点人的关系

可以由不同角度预测人类作为整体与奇点人的关系。

（1）沿世界1的演化外推。

广义的说，三个世界在某种意义上都存在螺旋式演化。世界2和世界3的螺旋式演化主要呈现出一个箭头的“旋进”，以往的螺旋在现实中已是过去时，顶多存在于博物馆、图书馆与记忆中。世界1的螺旋式演化有所不同，每进入新的循环，以往的循环依然存在，而且为新的循环提供物质、能量和信息。第一代恒星爆发后抛向空中的宇宙弥漫物质，收缩形成包括太阳在内的第二代恒星。在太阳系的地球上存在生成有机物的各种元素，太阳提供绝大部分能量来源。地球和生物多样性，孕育了人类。

人类以其认知和行为能力凌驾于万物之上，曾经以为是天之骄子，可以生杀予夺，征服自然，随后就遭到自然界的报复，包括这次疫情。越来越多的人认识到，一方面是这样或那样的“人类中心主义”，另一方面，人类以生物、地球、太阳系，以人类之前的全部自然界作为自身存在、繁衍和发展的基础。同样，奇点人既不会“消灭”人类，因为这会毁去奇点人生存的基础；也不会与人共舞，因为人类已经和奇点人不在一个维度。

（2）技术范式的思路。

不同的技术范式会导致技术有所不同的走向，以及影响到世界2与世界3的关系。鉴于目前弱人工智能在竞争的前技术范式中占优，此处循弱人工智能的思路。

在一次次的人机回圈中，人的一部分：在特定和有限语境下的欲望、思维方式、价值观，以及对未来的期待，转移到“机”。然而，鉴于语境之无限性，以及即使在有限语境下人的欲望的无限性，何以产生某种想法，动机来自何处，简言之，人之意向性仍然在人。

需要意向性价值时由人来处理，需要形式化事实时由机器来分担。将人类的优点和机器的优点相结合，取长补短，才能更好的实现人工智能^[11]。“让机器工作，让人们思考”，这是2011年9月22日，IBM公司在计算机纪元50周年的题词。这十个字是弱人工智能技术范式的宗旨。

米开朗琪罗有言，请上帝照看人的灵魂，我来照看人的肉体。人，照看自己的灵魂，做出决策；机，人工智能从事计算，提供决策的依据和选项，实现预期功能。凯文凯利认为，如果现在人类充分利用这尚且在一定程度上还有发言权的过渡期，那么未来可能是人主情商，机主智商，人机合一，实际上是“人心机脑”。在刘锋提出的互联网大脑中，人和机分别占据左右脑之一。

在弱人工智能范式中，计算是核心概念之一^[12]。第一阶段，算法是先知，有问题问它，但决策权在人的手里；第二阶段，算法成了代理人，人对算法的依赖增加，小的决策由算法定。第三阶段，干脆完全由算法决定，算法升级为君主。由腾讯、阿里巴巴、百度等到字节跳动，在一定程度上体现了三个阶段之间的递进。字节跳动通过算法进行推送的产品在各国受到欢迎，反过来表明了这一趋势，人脑似乎乐意放弃选择权。

“人们担心计算机会变得过于聪明，最终控制这个世界，但是真正的问题是它们仍然不够聪明，却已经控制了整个世界。”这是计算机科学家Pedro Domingos在他2015年的著作“The Master Algorithm”中的总结语^[13]。

人工智能或将在2040年，达到普通人智能水平，并引发智力爆炸。人工智能系统花了几十年时间到达了幼儿智力水平；在到达这个节点一小时后推导出爱因斯坦的相对论；而在这之后一个半小时，这个强人工智能变成了超人工智能，智能瞬间达到了普通人类的17万倍。人工智能不可能锁死在人类智力水平上。它将超越人类，变成我们无法理解的智慧物种。

我们，极有可能是站在食物链顶端的最后一批人类。人作为类退休，这是走向生物后社会的第一步。所有生物，包括人类，都只能屈居其下。

谷歌未来学家：2029年人类开始实现永生（2021-02-17）[2021-02-17]https://mp.weixin.qq.com/s/_uooP_mkk5xwMO9obGJ4Og

（3）人有人的用处[③]。

在本体的角度，人体远非在DNA、细胞和器官的层面上可以得到充分揭示，人的基因排序镌刻了生成过程中地球、太阳系，乃至宇宙的信息。莫拉维克悖论表明，哺乳动物的认知行为系统未必简单原始^[14]，人作为整体还有无数奥秘有待揭示，无穷的能力有待挖掘。“没人知道身体究竟能做什么”（斯宾诺莎）。

波兰尼关于隐性知识（tacit knowledge）的研究广为人知。隐性知识因其与主体不可分离而隶属于世界2。人类社会演化的一大标志是隐性知识显性化而成为编码知识，这一过程因人工智能而大大加快，并向深度发展，例如可以把围棋中的神来之手编码化，化神奇为常理。甚至好奇心也不过是某种算法。由隐性知识向编码知识转化，就是世界2转向世界3。然而在世界2总还有，并将不断创造出新的未编码的隐性知识。

编码知识将无限拓展，总有未编码的隐性知识在前头。同时，面对算法、推送，人类有必要强化自我，坚守选择权。

3.3人类自身的分化

面对人工智能，人类自身面临分化。套用一句熟知的话来说，就是“让一部分人先聪明起来”。

（1）同样是沿世界1的演化外推。

在世界1的螺旋式演化中，图1（左）下方的箭头显示自然界的“进化”，上方的箭头则显示“退化”（详见文献1）。演化由进化与退化共同组成，不存在只有进化的演化，进化以退化为代价。只有一小部分物质得以进入新的螺旋，大部分物质留在原有的螺旋中，朝着起点回归。发散-收敛的周期同样说明这一点。在关节点上，只有一小部分物质脱颖而出，大部分留在原处。演化至今的世界1和世界2面临突破，在一小部分人进入新的循环和收敛之际，大部分人将留在原来的循环中，服务和支撑新的循环。这是客观规律。就算法而言，就是区分为控制算法的人，以及被算法控制提供数据的人。人类的这种分化，主要源于认知行为系统的差异。

留在原有循环中的人类，什么是此生的意义，“活得其所”（斯蒂格勒）？歌德的《浮士德》在一百多年前已经给出了某种预言。

（2）技术层面的理解。

任何知识，无论其客观程度如何，在“物化”之时必然引入更多主观因素。集成于科技黑箱中的知识，不仅是科技知识，而且是人文社会科学知识，以及利益和价值观。技术理性首先是有效和控制，对谁有效，谁来控制？接着是供给方的投入产出比和需求方的功能价格比，同样关系到不同的主体。

人机回圈中的“人”是谁？有必要区分，1）人在供给侧还是需求侧；2）人的不同层次，如人类、国家、组织、个人，以及不同层次间的各种组合。不同的“人”，会极大影响到人机回圈。还有实际上存在的人与人之间的回圈，实际上是博弈与合作。所谓“算法中立”不过是对新技术的乌托邦式的想象。算法设计的背后包含着人的立场与利益^[15]。

《连线》写道^[16]：美国全面禁止使用华为产品可能标志着一个世界互联网终结的开始。它可以将世界分为两个独立的技术生态系统，一个位于北美和欧洲部分地区，另一个跨越整个亚洲和南半球。前者将由诺基亚、亚马逊、Facebook、谷歌、微软和苹果主导，后者将由华为、阿里巴巴、腾讯和百度主导。脱钩，正愈演愈烈。人类的这种分化，主要源于观念和利益上的冲突。

赵汀阳设想^[17]，假如将来出现两种以上的超级人工智能系统，相当于存在两个上帝，其结果可能非常惨烈，战争的可能性将远大于联合的可能性，类似于两种一神教难以相容。

4人类能否预测，进而安排自己未来的命运？

对人类命运的预测和努力，既是人的本能，也是人类生存所必须。这种预测和努力本身，实际上已成为人类自身生存状态的组成部分，在当下的窗口期尤为如此。

回顾历史，在普里戈金的分岔图上，每一次科技创新或多或少都是一次分岔。每一次分岔，往往针对上一次创新的不足之处与负面效应，换言之，人类毕竟还拥有一定程度的控制权，可以由新的分岔弥补修正上一个分岔的负效应。展望前程，人类正在越过的是人类历史上最大，或许也是对于人类来说的最后一个分岔。人工智能的发展将可能一劳永逸地结束人类社会历经万年，“从分岔到分岔”的“曲折前行”的道路。

气候变暖、生态危机是人类毁掉已有的自己赖以生存的家园，危机本身与好奇心和控制欲无关。虽然有人可以在短期和局部获利，然而最终无人可以在危机中幸免。危机可以通过相应的技术在下一个分岔避免。而奇点人的“危机”属于未来的必然趋势，源于好奇心和控制欲，有人可以从中获利。

科学技术是双刃剑已成为共识，而科技双刃剑的根源是人。人自身就是双刃剑。一刃是善，一刃是恶；一刃是自我控制，一刃是放纵自我；一侧是对世界无穷的知与控制的欲望，另一侧是有限的认识和实践能力；一边是对不确定未来的向往和确定往事的厌倦，另一边则是对不确定未来的恐惧和对确定往事的留恋。只要人类一息犹存，就不会停下好奇与控制的脚步；只要人类不停下探索与支配的步伐，最终的征服对象就是人类自己。“征服”，也意味着升华。

参考文献

[1] 吕乃基.大历史观视野下的人工智能[J].系统科学学报, 2016(4):1-10.

[2] 吕乃基.论知识的演进历程[J].科技导报, 2003, 21(0307):16-18.

[3] 雅克·巴尔赞.从黎明到衰落[M].林华,译.北京:世界知识出版社, 2002: 672.

[4]21世纪最重大发明——超级智能崛起http://www.360doc.com/content/16/1008/08/3542203_596595142.shtml.

[5]人类智力已至极限.http://www.360doc.com/content/11/0829/16/2198695_144270864.shtml.

[6]智人的黄昏.https://www.jianshu.com/p/8fd459577cee.

[7]鲍捷.脱碳入硅.http://www.360doc.com/content/17/0409/18/35919193_644195474.shtml.

[8]刘琳.美国宣布计划十年内建成国家量子互联网.https://mp.weixin.qq.com/s/hdh2x8qluZ0Ss7JLa7BxxQ.

[9] 什么是弱人工智能强人工智能超人工智能.https://www.jianshu.com/p/85276d408eea.

[10]人工智能如何构建算法化的社会契约？https://www.a-site.cn/article/718384.html.

[11]小牛. 再读《追问人工智能》一书.https://mp.weixin.qq.com/s/yGynANs2ZnKuXN02ytkhKg.

[12]乔向阳. 未来可能是这样子，极端烧脑的《未来简史》解读.https://zhuanlan.zhihu.com/p/22957229.

[13]《自然》评白宫报告：人工智能对人类的影响仍是研究盲点.http://mt.sohu.com/20161015/n470340245.shtml.

[14] 吕乃基.人类认知系统的演化与"科技认知——行为系统"[J].自然辩证法研究,2019,380(10):121-128. 

[15] Leo.如何提高信息判断力？https://mp.weixin.qq.com/s/Zp6fHPb6dWNxoaE7Rt19Fw.

[16] 新浪网.华为没有退路[EB/OL].

https://tech.sina.com.cn/it/2020-07-31/doc-iivhuipn6083823.shtml.

[17] 赵汀阳.人工智能“革命”的“近忧”和“远虑”——一种伦理学和存在论的分析.

https://mp.weixin.qq.com/s/4nStnWwlfRpX_FsDMsSfng.

World 1 is bound to break through its own "boundary" and generate new nature by spiral evolution and divergence-convergence. The evolutionary path of World 3, one is to follow in the footsteps of World 1 to World 2, and it is about to break; the other is to continue the divergence–convergence-divergence cycle in some way, and the new convergence has appeared on the horizon. World 2, human curiosity promotes science, desire for control promotes technology, science and technology promotes history, and pursuit of good suppresses instinct, bringing mankind to the present situation together. At the same time, World 2 gradually shows its own limitations. In the development of artificial intelligence, there are competing technological paradigms such as strong, weak and quantum paradigms. Weak artificial intelligence is more likely to be transformed into practical technology paradigm. At present, there is a window period in which people and singularity people coexist. Along with the weak artificial intelligence paradigm, it is possible to move towards "human mind and machine brain". Just as human beings both take the existing nature as their foundation and transcend the nature; the singularity people will neither "destroy" human beings, because this will destroy the basis of singularity people's survival; nor will they dance with people, because human beings and singularity people are no longer in the same dimension. Nevertheless, human beings still have unlimited space for development. Facing the new spiral and convergence, human beings may be divided due to the differences of cognitive behavior system and the conflicts of interests and ideas.

As long as human beings are still alive, they will not stop their curiosity and control; as long as they do not stop exploring and dominating, the ultimate object of conquest is human being themselves. "Conquest" also means sublimation.

[①] 本文不涉及相关的争议。

[②] 对于知识的物化归入世界3，还是另设“世界4”，有不同意见，本文中归入世界3，不涉及相关争论。

[③] 原是维纳一本著作的中文译名