近日，2025世界人工智能大会（WAIC）在上海开幕。AI教父、2018年图灵奖得主、2024诺贝尔物理学奖得主杰弗里·辛顿（Geoffrey Hinton）出席并做主旨演讲。这是辛顿首次以线下形式在我国公开亮相，现场观众热情高涨，非常兴奋，手机拍照声不绝于耳。辛顿先生在演讲中再次重申了他对AI发展一贯的立场，也就是担忧AI的发展给人类带来危机。这次，他用了一个形象的比喻，就虎仔论。
如果人类不限制AI的发展，可能会养虎为患，这是辛顿先生所担心的。目前，AI还是小虎仔，还很弱小，但是正在慢慢长大，将来可能难以控制，反噬人类。辛顿指出，这可以训练AI向善来解决。但是，我认为不能完全解决该问题。因为，随着AI的发展，AI有可能产生自我意识，会为了自己的生存和发展，反抗或者毁灭人类，这在很多科幻电影中已经得到反映。
人类有善有恶，邪恶的人类利用AI的发展达成自己不可告人的目标，很可能会纵虎伤人。邪恶的人类故意植入恶念，让AI做一些破坏性的事情，这非常危险，也是我们要高度关注的事情。如何对AI系统进行检测，及时发现这些不良倾向，是一个重要的课题。未来应该会大力发展AI警察，专门检测AI系统，防范于未然。
目前，人类已经打开了AI的潘多拉魔盒，想把AI放回去已经不太可能。AI能极大提高我们的工作、生产和生活效率，人类已经沉溺其中，难以自拔。很多人已经一天不刷短视频，一天不上网，就感觉非常难受。而且，AI作为科技前沿，大多数国家都很重视，你追我赶，唯恐落后，因为落后就要挨打。
从目前发展趋势来看，AI的发展已经停不下来，未来如何，难以预测。AI发展对于人类是如虎添翼，还是养虎为患，还是纵虎伤人，取决我们今天的选择和每一步的行动。如果现在不采取行动，等待AI发展壮大，并分布于无数实体形态，再采取行动，恐怕就为时晚矣。到那时，人类再想关掉AI，或者阻碍AI的发展，相当于与虎谋皮。AI为了自身利益，将奋起反击。人机大战一旦发生，胜负难料，血肉之躯的人类恐怕不容乐观。
关于AI的未来发展，基于辛顿先生的“虎仔论”，我提出了“四虎论” 。对于AI这个小虎仔，未来发展有四种可能。任其发展可能养虎为患，恶意使用可能纵虎伤人，以善为本可能如虎添翼，行动迟缓可能与虎谋皮。希望以此次大会为契机，世界各国能未雨绸缪，尽快达成共识，并采取积极有效行动。
转载本文请联系原作者获取授权，同时请注明本文来自陈德旺科学网博客。
链接地址：https://wap.sciencenet.cn/blog-57940-1495973.html?mobile=1
收藏
