按：两年前我在“对ChatGPT、阿尔法零等人工智能开发的简评与展望”https://blog.sciencenet.cn/blog-3234816-1382914.html中，对该如何提高人工智能训练效率乃至获得超级人工智能提出了一些思路设想，本文是在此基础上结合最近两年对人工智能发展态势的观察和了解所做的进一步思考和分析。

要获得超级通用人工智能必须解决这样一个关键性问题：是非判断。更为准确的说，通用人工智能的一个关键性标志是具备全面且准确的判断是非的能力，同时又对不能准确判断是非的问题保持适度的开放性和余地且又不至于陷入捣浆糊的境地。上述这个问题的解决意味着不仅将解决幻觉的问题，还能解决深度思维中的逻辑判断乃至发展出创新创造能力的问题。

更为具体的，这种是非判断应该包括以下两个层面：一个是对于事实的判断，即幻觉问题的解决，另一个是逻辑严谨性和自洽性方面的逻辑判断。而在这两个层面之上的，是兼具了事实判断和逻辑判断的超级判断（这是一种趋近于完美的判断）。

也许有人会反问说，都超级人工智能了，那肯定是能够做到非常好的是非判断的。这个观点固然是对的，但这个观点给我们的启发性在于，在没有获得超级人工智能之前该如何去获得超级人工智能的一个必经之路和方法，或者说这是一个必然的标志，即超级人工智能一定得是能够想方设法的去解决如何进行是非判断，包括事实证据判断和逻辑判断的，而这就意味着在设计和训练人工智能过程中必须逐步的去想方设法解决如何让自己所设计和训练的人工智能能够有效地甚至是自主地去解决事实判断和逻辑判断的问题。

具体的思路方法包括：是否可以去添加相应的模块来进行对事实的检验判断和对逻辑的检验判断环节或功能模块。另外的一个设想是，应该有必要去一方面进一步的去完善如何对齐和标注的问题，对现有训练数据进行有质量的筛选和清洗，修正和反向标注一些过于模糊尤其是明显错误的训练数据（剔除还是尽量不要，除非是为了获得小型化软件和植入小型便携式人工智能设备之类，因为错误的和模糊的信息也都是有价值的，尤其是明确标注错误信息的价值与明确标注正确信息的价值应该是几乎相当的），这样不仅可以大幅提高训练效率，还可以有助于提高甚至可能会大幅提高人工智能的智能水平。此外，在对齐和标注的过程中是否可以采取添加不同的权重的方法，比如对于那些真正睿智达到了高度智慧层次的学者的学术成果及其思想性论述等，赋值更高的优先级，但同时又不能给予过度绝对的完全正确之类的权重赋值，因为即使智力再高超的学者，其仍然时不时会存在一些认知上的盲区、误区和认知上的瑕疵之类的问题，这一点我们在人类历史上那些顶级学者身上（包括其学术著作及其传记等信息记录中）经常能见到。

此外，是否能够做到对人工神经网络自身的网络结构进行自我判断，比如设置这样一个进行判断的方法原则：最有效的人工神经网络结构应该是能够解释最多的信息量，同时用到的人工神经网络的节点数是最少的之类的。这个思想原则符合大道至简的思想，因为真正的智慧之美应该是要么有简洁之美，要么有广阔之美，而同时兼具简洁之美与广阔之美是最高层次的智慧之美。

参考阅读：

“人工智能的本质与人类知识的插值式创新”https://blog.sciencenet.cn/blog-3234816-1468147.html 

“人工智能研发中的思路方法之在学习中改进与超越-人工智能研发中的‘学则生、似则死’现象”：https://blog.sciencenet.cn/blog-3234816-1468316.html

“有关人工智能的训练方法及其风险的反思”：https://blog.sciencenet.cn/blog-3234816-1466768.html

“试论超级人工智能的标志性特征”：https://blog.sciencenet.cn/blog-3234816-1466479.html

“人工智能的双刃剑：机遇与挑战的辩证思考”https://blog.sciencenet.cn/blog-3234816-1465241.html

“对ChatGPT、阿尔法零等人工智能开发的简评与展望”：https://blog.sciencenet.cn/blog-3234816-1382914.html

“人工智能所带来的影响将堪比工业革命”：https://blog.sciencenet.cn/blog-3234816-1374795.html

“关于神经网络应用的一些新设想”地址：https://blog.sciencenet.cn/blog-3234816-1003531.html

“对‘从人工神经网络看人脑’一文的延续：学术权威与学术民主

”地址：https://blog.sciencenet.cn/blog-3234816-1003426.htm

“从人工神经网络看人脑”地址：https://blog.sciencenet.cn/blog-3234816-1003423.html

以下文章，是笔者在阿尔法狗人机大战时所做的实时评论：

1.对阿尔法狗人机大战的实时评论1：《对围棋人机大战不必过于惊奇》https://blog.sciencenet.cn/blog-3234816-1182566.html

https://mp.weixin.qq.com/s/UTRucHEb9yeWiZHiuGNhkw

2.对阿尔法狗人机大战的实时评论2（旧文重发）：《换个角度看阿尔法狗》https://blog.sciencenet.cn/blog-3234816-1182574.html

https://mp.weixin.qq.com/s/Nwjq-3IQSQXTO2-0tx-EgA

3.阿尔法狗令人激动又令人沮丧之处：http://mp.weixin.qq.com/s?__biz=MzIyMTE2MDU3NQ==&mid=402375014&idx=1&sn=7008cb673cc211efa88ea0cdddcf64e1#rd

4.“阿尔法狗的围棋表现给了我们什么启发？”：https://blog.sciencenet.cn/blog-3234816-1027520.html

转载本文请联系原作者获取授权，同时请注明本文来自钟定胜科学网博客。

链接地址：https://wap.sciencenet.cn/blog-3234816-1470607.html?mobile=1

收藏

分享