在白雪公主中，那个邪恶皇后的手中就有一面魔镜，可以告诉皇后，这个世界上谁最漂亮。在最近的哪吒2中，胖胖的石矶娘娘也有一个魔镜。所以有魔镜的，下场都不好。
随着AI的不断进化，我们人类也将会有一面魔镜。我这段时间一直在思考AI的危险有多严重。虽然AI解决问题的方式和人脑有极大的差别，但是能够看到，它的确开始展现了强大的智力处理能力。那么当智力的水平快速提升，能带来的最大危机究竟是什么呢？
这几天我忽然想明白了。AI最大的问题，并不是像电影中那样，像人类一样开始灭掉全世界。这种问题，实际上不太可能，除非是控制AI的人类想要灭掉全世界。我想知道的是，如果智力不断提升，那么必然带来的危险是什么？
看看那些聪明的人，就能得到一些启发。聪明的人，能够学习更多的知识，能够更加快速的进行信息处理，而这样的人，往往能够更好的判断未来的一些事情。
人的智能中，最重要的一部分是预测未来。
在中国的传统文化中，命运是核心。中国人最求长生，所以就特别关心趋吉避凶的方法。我虽然对这些具体的方法不了解，但是毫无疑问，中国的传统文化相信未来是可以预测的。
如果AI的信息处理能力越来越多强大，处理信息的量越来越多，那么它不但会告诉我们现实中究竟发生了什么，帮助我们理解人类这个复杂系统，而且最重要的，也是最可怕的，就是它也许可以看到人类的未来。
这就是AI能带来的最大危机。
适者生存，永远支配着这个世界。思考人类和AI的关系，正在变得越来越重要，甚至具有决定性。如何适应AI的发展，并且以此来改变人类社会的方方面面，正在变得越来越重要。
AI是危险的，但是它会带来强大的力量，所以必须全力以赴发展AI，同时让人类适应AI的发展，这也许比什么都更重要。
转载本文请联系原作者获取授权，同时请注明本文来自王涛科学网博客。
链接地址：https://wap.sciencenet.cn/blog-41701-1498356.html?mobile=1
收藏
