别人成仙得道,我是白骨成精分享 http://blog.sciencenet.cn/u/qiaoqiao1980 寻找新物理学

博文

AI危机

已有 1199 次阅读 2025-8-21 20:35 |个人分类:心智之旅|系统分类:观点评述

        关于AI的安全性问题,可能有了无数的争吵和看法。不仅涉及到智力的疯狂增长意味着什么,也会担心AI由于各种原因所导致的可怕后果。当然,如果AI是一个魔镜,可能还在于人类自己恐怕就存在问题。

    如此危险的可能性,为什么我们还义无反顾的发展AI?这个原因很简单,因为AI展现了强大的力量,来自于智力上的强大力量。这种力量,虽然可怕,但是强大,谁都无法放弃。再加上当下的各个国家间的竞争不断加剧,那么掌握AI带来的力量就更是必须的。

    这种纠结,可能只有当年的原子弹的制造能够比拟。而AI所带来的力量和危险,可能被原子弹都要大的多。如果AI真能够出现自我意识,那么整个人类可能都会面临灭亡的危机。

    但是这种危机感,似乎并没有被普遍的意识到。甚至还要把AI应用到各种领域,但是似乎没有分析可能存在的问题。到现在我都没有明白“教育+AI”究竟意味着什么?它真的能带来教育的进步么?

    如果要发展AI,那么自然是全力以赴,但是不应该什么都折腾,这反而可能带来更大的问题。AI所带来的危机,可能我们根本就无法预料。

    全力以赴发展AI究竟要发展什么?就是推动AI的智力上的增长,以及可控性。但是这不意味着,应该到处都要AI化。特别是教育和科学领域,需要特别的关注。我们需要一片AI禁区,成为AI还达不到的地方。

    重要的始终是人,既要让年轻人应用AI,更要让年轻人拥有更加强大的心智力量,这在今天变得更加重要。AI是一个魔镜,将会带来更大的幻觉。与这种幻觉抗衡,是极其重要的。

    AI危机之所以严重,就是我们无法完全确定会发生什么,而这种力量极其巨大。所以必须做好两手准备。一方面是全力以赴,推动AI智力的发展。另一方面需要寻找抗衡AI的力量。哪一个方面出现了问题,都可能带来难以想象的后果。

    不管承不承认,AI都将会彻底改变人类社会的发展规则,和人类的生存法则。人类本身不再是未来时代的唯一力量,AI将会成为越来越重要,甚至是决定性的因素。AI出现之前的许多想法都正在失效,如何改变社会规则更好的适应AI的发展,正在成为决定性的因素。特别是我们的教育,扮演着更加重要的角色,不但要推动AI的发展,更要培养抗衡的力量。一味的AI化是极其危险的。

   



https://wap.sciencenet.cn/blog-41701-1498604.html

上一篇:类球核:从猜想到证实(3)双流体
下一篇:类球核:从猜想到证实(4)核力
收藏 IP: 111.27.42.*| 热度|

13 高宏 刘永红 宁利中 刘进平 钟炳 孔玲 冯兆东 孙颉 钟定胜 崔锦华 杨正瓴 聂广 郑永军

该博文允许注册用户评论 请点击登录 评论 (7 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2025-8-24 04:23

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部