2025年度图灵奖获得者Richard Sutton曾表示，“经验是世界知识的基础，人类本身是通过感知和行动来认识和影响世界的，经验是人类获得信息、采取行动的的唯一方式，而且是人类离不开的。遗憾的是，由于经验过于主观化和个人化，人类仍然不喜欢用经验的方式去思考和表达”。然而，人工智能（AI）这种新型知识形态打破了传统经验的线性积累模式，呈现出指数级增长、跨界融合和非确定性演进的特点。但是，Sutton最近表示，AI经历了模拟时代之后，进入了现在的大型语言模型（LLMs）的人类数据时代。LLMs时代的本质仍然是在模仿人类数据，而不是通过与世界直接互动来理解世界并实现目标。Sutton预言，未来将出现一种基于经验的、持续学习的新范式，它能够像人类和所有动物一样，在与环境的持续互动中实时学习，无需经历独立的“训练阶段”。这是否就是未来“智能体”的概念呢？

基于此，我们来看看人类的经历与经验是如何的？

自然界中，每个动物，包括人类，都会将听到、看到、嗅到、触到、甚至感觉到的信号，包括疼痛传感器和快乐传感器，进入大脑，并通过下丘脑中的计算，做出相应的反应或动作，例如，遇到危险时下意识的规避动作。数据驱动的AI模型或智能体可学习到这些输入信号。

有些经历，比如鸟儿飞翔，飞机留下尾迹，云彩形成，星星出现，月亮盈亏，纯粹是视觉的。我们无法听到、触摸、品尝或闻到太阳的东升西落。我们也看不到风，但当微风吹来时，我们可以感觉到它的存在。这些都不会持久的痕迹一旦消失，它们的痕迹也会消失。那些较为持久的痕迹，如如儿时的、故乡的有些经历也会慢慢消失。因此，无论经历多么积极或消极，所有经历都是短暂的。但这些经历都曾经记忆在大脑中，随着时间和经历的增加，过去那些记忆似乎也慢慢消失了。

当某天你看到空中的雁群，立马会想到飞机留下尾迹……当某天你回到故乡、回到过去的教室，那些失去的记忆又回来了，甚至见到过去几十年未见的老朋友，朋友间发生的故事又会浮现出来。就如文字记载和考古可以重现过去的某些历史一样。照相机和计算机发明以后，某些记忆就可以通过图片或文字的形式储存下来，但查找的过程，也需要借助某些手段才能看到过去的记录，如关键词。于是乎，就可以理解把计算机称为电脑（与人脑对应）的用意了。

每一种经历都是独一无二的，许多经历也会同时发生。我们的注意力不可能同时关注所有这些经历。然而，记忆会储存它们。我们可以从每一次经历中汲取一些东西，无论是过去的还是现在的，如果有一个衡量我们内心实时的晴雨表，都会形成一种视角，那就是我们对经历的反应，这是内心将它们全部融合的结果。因此，每个人对任何特定情况的看法都是独特的过去的层层叠加，无论是稀疏还是密集，决定了我们的视角。

这种对经历的反应和视角形成了我们的经验。因此，所谓经验，即是从已发生的事件中获取的信息，是由人生经历总结而来。

如果我们能够将我们的经历或经验深入到我们的记忆中，那么我们可能会随时重新创造出先前的经历或经验。我们存储的经历或经验和目前发生在我们面前的事情之间会来回转移。我们每天都会回忆起许多这样的过去经历或经验。然而，如同经历一样，每一种经验最终都会从我们的意识中消失，但记忆会把这些经验留存下来。所以，经验是个性化的，持久的不断积累过程。例如，同样从老师或计算机那儿获得相同的知识，由于每个人的经历或经验的不同就会出现不同的答案或认知。

真正的知识与真正的经验完全属于两个不同的领域，一个是客观世界，一个是主观世界。对一个人而言，知识与经验早已融合在一起，已无法区分彼此。本质上来说知识源于经验，是经验的总结，那么它就可以通过经验被习得。因此，本质上说，目前的AI模型或智能体的能力局限于对已有知识的模仿，换句话说数据驱动的AI模型是对已有知识的模仿。

过去的思想加上感官对现在的输入，又产生了另一个精神画面。在未来，当我们试图回忆起这种复合经验时，心灵会努力把这些“镜头”重新排列成相似的顺序，从而连接所有相关的思想。这需要巨大的计算能力，而心灵完全能够胜任这项任务。换句话说，记忆储存的经验和知识以及数据，包括计算能力，正是我们希望AI能够做到的。

然而，我们对我们自身智能的理解都非常有限，对构成人的智能的必要因素也了解有限。记忆、感官、情感、智力、自我、条件反射和意识之间存在着的复杂的相互作用导致了个体的差异。特别是羞耻、犹豫、悔恨等情感也是目前数据驱动的AI模型难以做到的。因此，目前的数据驱动的AI模型可能会学习到非本质特征和真实标签之间的虚假关联，这就会误导使用者，甚至做出错误的抉择。

人类具有通过现有数据得出合理推论的能力，更能基于直觉、假设以及跨领域的联想，提出具有前瞻性的创新想法。更神奇的是，人类甚至能够在数据缺乏甚至矛盾的情况下，基于理论、假设和想象力形成前瞻性的推测，并通过实验手段加以验证。更加魔幻的是，人类甚至能够在梦中创造出前瞻性的推理。这些能力不仅定义了人类认知的独特性，也是人类能够实现持续创新的根本原因。这一特点，为未来AI的发展提供了重要启示。现在，我们正处于数据据驱动的AI模型到智能体的过渡阶段。当上世纪中叶计算机发明后，Alan Turing在1947年就已提出预言——“我们想要的是一台能够从经验中学习的机器”——为人工智能奠定了早期哲学基础并成为未来发展范式的导引。

基于深度学习的AI技术由于其显著的性能已经在多个领域中逐步被采用。然而，由于其复杂的设计掩盖了潜在的机制和推理过程，引发了关于信任和人类理解的严重关切。尽管，像deepseek一样，有推理过程，但数据驱动的AI模型存在的虚假关联是一个严重的例子之一（人类也有说谎的能力）。因此，如何有效评估AI模型的决策，即如何解释模型的过程与人类决策逻辑的一致性是目前迫切需要提高的，是故，对可解释的AI是可以期待的。然而，人类曾有言：“解释是美丽的谎言”，于是，如何提高AI解释的精度——模型的解释过程与人类决策逻辑的一致性-----就成为关键。

AI模型正在快速演变，其输出和性能可能会迅速变化。许多AI系统通过用户交互进行适应，这意味着它们的行为可能会随着时间的推移而变化，或者在不同的用户群体中有所不同。因此，评估策略必须与技术本身一样动态和响应。

Sutton 预言的，他称之为“经验时代”（The Era of Experience）的新范式也许正是人类面临的挑战：战胜自我并把控AI。

（本人是医生，与人工智能及其相关的非专业的人员，不当之处请包含）

25-10-7日于济南

主要参考文献

npj Artif. Intell. 1, 21 (2025). https://doi.org/10.1038/s44387-025-00023-9

Nature. 2025 Sep 17. doi: 10.1038/d41586-025-02819-w. Online ahead of print.

Nature. 2025 Jul;643(8073):910-912.

转载本文请联系原作者获取授权，同时请注明本文来自汪运山科学网博客。

链接地址：https://wap.sciencenet.cn/blog-526326-1504961.html?mobile=1

收藏

分享