精选
从智力的角度来看，人类文明的演进史，就是一部不断达至更高智慧水准的历史。从原始社会的集体协作，到古代文明的哲学思辨，再到近代科学的理性探索，直至当代信息时代的技术爆发，人类始终在追求更高层次的认知能力与更广博的知识体系。然而，在这漫长的智慧长征中，不论是作为个体的思想家、科学家，还是作为整体的文明群体，都从未达到过绝对的完美，甚至期间经常会经历许多波折。比如，为了追求健康长寿而尝试炼丹药、服用五石散，为了方便耐用使用铅制食品容器，以及近现代所发明的救了大量人命还拿了诺贝尔奖最后却被禁用的DDT等等，这种在认知上的波折和误区与追求获得正确的知识一样，都会是永无穷尽的。也因此，苏格拉底以“我唯一知道的就是我一无所知”自省，牛顿在经典物理的辉煌成就前仍感叹自己不过是在真理的海洋边拾贝。既然人类自身的智慧之路如此崎岖且永无止境，我们又怎能期待人工智能——这一人类智慧的造物——能够一蹴而就地达到所谓“完美”的通用智能水平？AGI的不过是人类智力的外延这样一个本质特征，注定了它只有进行时没有完成时。
更为详细地来说，其根本原因在于，知识与智慧不论在广度还是深度上，都是广袤无边的。其广度，横跨自然科学、人文社科、数学、哲学、艺术、宗教等无数领域，且随着人类实践的发展不断衍生出新的交叉学科与前沿方向；其深度，则在每一个细分领域中都呈现出近乎无限的层次性，从表象到本质，从经验到理论，从经典物理到相对论和量子物理，从科学到哲学，……知识的深渊永远探不到底。更重要的是，知识真理本身具有不可穷尽性，我们可以无限逼近，却永远无法彻底“到达”。
这种不可穷尽性不仅源于客观世界的复杂性，也源于人类认知主体本身的局限性——我们只能通过有限的感官、逻辑工具和语言符号去把握无限的世界，更源于人类本质上仅仅是宇宙的一个子集，而子集永远也无法彻底洞悉全集，更无法超越全集。有限的观察和有限的学习，只能进行有限的推理和只能得到有限的智慧，只不过智力水平越高的话其放大倍数、准确性和效率会更高或高很多而已。
在这种背景下，任何智能系统——无论是生物智能还是人工智能——都必然受制于知识和智慧的无限性与认知的有限性之间的矛盾。人类历史上所有伟大的智者，从亚里士多德到爱因斯坦，都只能在某些特定领域、特定历史条件下推动认知的边界，而不可能成为全知全能的“神”。同样，我们正在开发的AGI系统，即便在某个阶段表现出令人惊叹的能力，也终究是在特定范式、特定数据、特定算法框架下的有限智能体。它可能会在某个时间点上，在大多数已知问题上超越大多数人类的水平，但这绝不意味着它能够掌握或已经掌握了所有知识，或者能够应对所有未知的新问题。正如哲学家波普尔所言：“我们的知识只能是有限的，而我们的无知则必然是无限的。”而AGI的发展，也必然会是在这种有限与无限的角逐中，不断向前推进的永续过程。
因此，如果非要对AGI下一个具有操作性的定义，或许可以表述为：在绝大多数领域和问题上，其综合表现超越了绝大多数人类水平的人工智能系统。
这一定义包含两个关键特征：其一，在学识与智慧的高度上超越绝大多数人。这不仅指知识的存储量，更包括理解、推理、创新和元认知能力。其二，在犯错的概率和严重程度上低于绝大多数人。人类智能的一个显著特征就是会犯各种错误（包括偶然错误和系统性错误），从认知偏见到逻辑谬误，从情绪化决策到注意力局限，等等。而AGI应当可以在这方面表现出显著优势，比如：不会因疲劳、情绪、外界干扰等因素导致表现波动；应该能够识别并规避人类常见的认知偏见和心理定势；应该能够评估自身判断的不确定性程度，并在适当情况下表达“不知道”；应该能够从错误中快速学习，防止同类错误重复发生；等等。
值得注意的是，上述这一定义本质上是相对性的和统计性的——它不要求AGI在所有问题上超越所有人，而是在绝大多数领域超越绝大多数人；同时，这一定义也是动态发展的，随着人类整体智能水平的提升，AGI的衡量标准应该也会水涨船高。
因此，AGI的发展不可能像开关一样突然实现，而将是一个渐进的、多阶段的过程。更为准确地说，AGI的发展必将是一个反复试错、不断迭代的过程。我们可能会经历多个“准AGI”阶段，期间人工智能系统能够在某些方面或许多方面都表现出通用性，但总会在某些方面仍有明显局限。甚至可能出现这样的情况：我们在某个时间点认为已经实现了AGI，但随着认知的深入，又发现了新的智能维度，从而重新调整对AGI的理解和期待。
接受“AGI只有进行时，没有完成时”这一观点，应该会对我们规划人工智能的未来发展具有深远的启发性价值。
首先，这有助于我们建立合理的预期。当前社会对AGI的讨论常常陷入两种极端：要么过度恐惧，想象出一个即将奴役人类的超级智能；要么过度乐观，期待AGI能够一劳永逸地解决所有人类问题。认识到AGI的渐进本质，我们就能以更加平和、务实的态度对待这一技术革命，既不过分恐慌，也不盲目崇拜。
其次，这有助于促使我们重新思考人与机器的关系。在AGI的漫长发展过程中，更可能的图景是人机协同的不断增强——人类智能与人工智能各自发挥比较优势，形成共生进化的关系。人类提供直觉、创造力、价值判断和情感理解；机器提供计算能力、大规模记忆、不知疲倦的分析和不带偏见的推理。这种协同不是静态的，而是动态发展的，随着AGI能力的提升，人类的角色也会相应演变，比如可能会从直接操作者逐渐转变为目标设定者、价值引导者和意义诠释者，等等。
最后，这意味着我们需要更加关注过程而非终点。AGI的发展本身就是一个充满探索与发现的过程，每一次突破不仅扩展了机器的能力边界，也深化了人类对自身智能的理解。正如航海技术的进步不仅带来了新大陆的发现，也深化了人类对地球的认识；AGI的研究不仅会创造智能工具，也会反过来照亮人类认知中那些若隐若现的黑箱。
结语：AGI不是某个等待被攻克的堡垒，而应该是一片需要世代探索的广阔疆域。在这片疆域中，我们既是探险者，也是创造者；我们既在塑造工具，也在重新理解乃至重新定义自己。当我们以谦卑而坚定的态度接受“AGI只有进行时没有完成时”这一现实时，我们就能更加宽慰同时又更加谨慎地去享受这一探索过程的丰富性与创造性，才能在智能进化的漫长旅程中，既不失方向，又能欣赏沿途的风景。智慧的真正价值，并不在于，至少并不仅在于到达某个终点，而在于攀登过程本身的启迪与升华——这对人类如此，对人类的智能创造物，亦当如此。
转载本文请联系原作者获取授权，同时请注明本文来自钟定胜科学网博客。
链接地址：https://wap.sciencenet.cn/blog-3234816-1508229.html?mobile=1
收藏
