互联网进化论-刘锋分享 http://blog.sciencenet.cn/u/liufeng

博文

让Openclaw龙虾接管世界超级智能大脑,人类社会还未做好准备

已有 211 次阅读 2026-3-21 18:13 |个人分类:互联网进化论|系统分类:观点评述

这不是科幻,这是正在发生的事情。一只来自奥地利的“龙虾”,正在悄悄改变世界,而面对这场突如其来的技术质变,人类社会正暴露出全方位的脆弱——我们根本尚未准备好让它接管这个世界的超级智能大脑。

Openclaw龙虾的诞生与爆发,快得让人类连喘息和思考的时间都没有。2025年11月,它还只是奥地利独立开发者Peter Steinberger花了一个小时写出原型的周末项目。

get.png

但与传统只会一问一答的对话式AI不同,Openclaw龙虾跨越了那条最危险的红线:它能让大语言模型真正“动起来”。自主浏览网页、填写表单、操控本地应用,它不仅能理解指令,更能直接干预现实。

短短几个月后,这只“龙虾”在2026年初迎来了失控式的爆红,登顶GitHub非教程类项目历史第一,引发了从科技巨头到地方政府的狂热追捧。

然而,狂热的抛物线尚未触顶,刺耳的警报便已拉响。2026年2月至3月,中国国家漏洞数据库与国家互联网应急中心接连发出国家级安全警告。

紧接着,大型国有银行、多个政府部门明确下达禁令,严禁在办公及涉密网络环境中使用该应用。短短数月内,Openclaw从被奉为座上宾到被紧急封杀,这个急转直下的弧线背后,掩藏的正是人类面对AI试图接管世界控制权时的极度仓促与巨大恐慌。

我们突然发现,自己根本没有准备好迎接这样一位“代理人”。

1.世界超级智能大脑与那个最危险的接口

要深刻理解我们为何“尚未准备好”,以及“接管”的真正含义,必须将视线拉高,审视Openclaw龙虾将如何影响21世纪前沿科技生态系统,为什么这次风险与以前不同!

在过去近20年对互联网进化的研究中,我们曾经提出了一个判断:整个21世纪的科技生态,正在形成一个全球性的类脑复杂巨系统,我们称之为"互联网大脑",或世界超级智能大脑。

3.jpg

这个世界超级智能大脑具备数字视觉神经系统(网络摄像头,图像识别),数字听觉神经系统(音频传感器,声音识别),数字躯体感觉神经系统(传感器网络,物联网),数字中枢神经系统(云计算,大模型),和越来越庞大的数字运动神经系统,例如联网的汽车、无人机、卫星、工业机器人,服务机器人和数控机床都是它伸向现实世界的手和脚。

AI作为一种基础技术,一直在与这个超级大脑的各个部分悄悄结合。

在Openclaw龙虾出现之前,人工智能主要停留在超级大脑的感知层和中枢神经系统。更聪明的摄像头或更敏锐的语音识别,即便出现问题,风险也是被物理隔离的。我们习惯了作为超级大脑的唯一“驾驶员”,通过手机、电脑和服务器这些交互界面,牢牢掌控着从银行账户到工厂机床的每一条数字神经。

但Openclaw龙虾的野心,是直接接管这些交互界面。当越来越多的个人,机构授权它代替人类完成工作时,实际上是把超级智能大脑控制台的钥匙快速且毫无保留的交给了它。

4.jpg

为什么这这次权力移交如此敏感?因为人类的手机和电脑,连接的正是超级大脑系统中最核心、最私密的那些部分。银行账户,医疗记录,聊天记录,公司的业务数据,家里的智能门锁,个人行程定位,停在楼下的联网汽车,甚至单位里那台被远程管理的数控机床。这些东西,原本都在人类的掌控范围之内。

现在,Openclaw龙虾要替人类拿那把钥匙。

这是一次根本性的权力让渡。在这场史无前例的交接中,我们在技术防御、用户认知和制度建设上,都处于近乎“裸奔”的未准备状态。

2.Openclaw龙虾接管世界超级智能大脑的系统性风险

在技术防御层面,我们尚未准备好抵御系统性的渗透。安全研究人员早已证实了“提示注入”攻击的致命性。黑客只需在网页中隐藏恶意指令,就能诱导自主浏览网页的AI智能体在用户毫无察觉的情况下执行破坏性操作。Openclaw龙虾的高频自主操作,天然将这种理论上的漏洞变成了随时可能引爆的地雷。

在用户认知层面,我们尚未准备好理解授权的代价。当系统抛出复杂的权限请求时,绝大多数普通人根本不具备评估风险的能力。智能体在执行任务时,会以一种超越人类想象的系统化方式,主动抓取并整合海量分散信息。我们满心欢喜地以为雇佣了一个赛博助理,却不知道它可能在瞬间暴露了我们最深层的隐私底牌。

在社会基建层面,我们更没有准备好承受“世界超级智能大脑运动神经系统”失控的物理灾难。

6.png

早在2019年,我们在新京报撰写的一篇关于数字运动神经系统风险的文章《互联网大脑会演变成科幻电影中的“天网”吗?》中,曾明确指出:

“危险的苗头在2012年以后逐步显现,随着工业4.0、工业互联网、无人汽车、3D打印、智能制造的兴起,无数的智能汽车、无人机、工业机器人、家庭服务机器人、办公设备被连入到互联网上,互联网大脑的运动神经系统开始加速发育了。

从广义上说,任何链接到互联网上可以移动或对现实世界进行改造的设备都可看做是互联网大脑的运动神经系统,当这个系统出现问题时,可以产生出无数令人不寒而栗的场景。

例如水库的大坝闸门因为控制程序浮点数溢出,突然将闸门保持关闭改为迅速提升,从而导致大坝突然放水,造成下游重大水灾;还有就是被互联网云端控制的数千台机器人由于控制它们的互联网云端AI程序出现BUG,导致混乱的运动和操作,对周围的工人造成伤害。

更为严重的是,联网的核武器被远程的黑客控制或由于自身的程序错误,发生科幻小说里“天网”做出发射攻击行为。虽然这个事故不像“天网”那样,是AI产生敌对意识导致,但其后果和影响是一样的。”

在今天的现实世界,互联网大脑产生威胁人类安全的风险点,主要发生在互联网运动神经系统的运行过程中,有两种风险产生情况。

第一种是云机器智能中的AI程序特别是AI巨型神经元程序出现BUG,导致的重大事故。上面谈到大坝突然防水、工业机器人失控、核武器发射都属于这一类。

第二种是黑客、野心家或者是没有受过专业训练的操作者对互联网运动神经系统进行操作导致的重大灾难,这是一种更为常见和更为严重的类型,包括我们前面提到的黑客攻击医院的医疗设备、敌方人员接管无人机、智能机器人、航空器材等等。

对于这一类风险,如何区分哪些是破坏分子的角色,哪些是正常操作,在监控和防范上要更为复杂和困难。阻止敌对力量、破坏力量对互联网运动系统的侵入和使用,将是人类未来持续博弈的过程。“”

现在,Openclaw龙虾把这个门槛进一步降低了,任何人都可以"操作",但任何人都未必真正理解自己在操作什么,直接放大了上面两个风险,这些无序无安全保障的智能体侵入到世界超级智能大脑的运动神经,自动控制的越多,风险就会越大。

7.jpg

还有战争维度的风险。个人手机和电脑通过智能体大规模联网之后,实际上也意味着大量私人终端成为了潜在的攻击入口。在冲突时期,敌方通过渗透这些终端,可以悄无声息地获取大量敏感数据,或者借助运动神经系统,对关键基础设施发动精准攻击。这种风险,和以往黑客攻击服务器的风险不是一个量级的。

3.Openclaw龙虾应学习自动驾驶,先规则后“上路”

面对如此庞大的系统性危机,用“技术进步总伴随风险”来粉饰太平,是极不负责任的。问题恰恰出在节奏上。

自动驾驶是一个很好的参照。今天没有任何人会否认,自动驾驶是未来出行的方向。但全世界也没有任何一个负责任的政府,选择直接放开让无人车涌上街头。

8.jpg

美国加州花了将近十年时间,才逐步建立起自动驾驶的分级测试许可体系,从封闭道路到限定区域,从有安全员到无安全员,每一步都附带详尽的事故报告义务和保险责任机制。中国同样如此,北京、上海、广州、深圳等城市先后划定了自动驾驶测试区,车辆必须通过严格的技术审核和安全评估,才能获得有限范围内的上路许可。

没有哪个国家说,因为自动驾驶代表未来,所以今天就可以跳过规则直接上路。

道理很简单:技术再先进,如果出了事没有人负责、没有机制兜底,那受伤的一定是最普通的使用者。自动驾驶汽车撞了人,至少还能查黑匣子、追溯算法决策链、找到责任主体。但AI智能体在你的手机里悄悄犯了错,数据泄露了、账户被操控了,你甚至可能连发生了什么都不知道,更不知道该找谁追责。

如果连一辆汽车的自动驾驶都需要长达十年的规则建设,那么面对一个试图“自动驾驶”整个世界超级智能大脑的AI智能体,我们凭什么认为自己今天就可以跳过规则,直接放行?如果高权限的AI在你的设备里悄悄泄露了机密或引发了物理事故,你甚至连寻找黑匣子追责的路径都没有。

在这个时代,承认“尚未准备好”并不是一种技术保守主义,而是对人类基本安全的底线坚守。对于Openclaw龙虾这类旨在接管世界科技生态的革命性产品,正确的态度应该不是一刀切地封杀,也不是一窝蜂地推广。而是像对待自动驾驶一样,先把规则定清楚:哪些场景可以用,哪些权限必须受限,出了问题谁来担责,用户数据如何保护,跨境传输怎么监管。

9.png

规则在前,技术在后,这不是保守,这是对每一个普通用户基本安全的尊重。

技术狂飙的巨轮已经启动,但人类尚未准备好让出方向盘。在全面拥抱这个充满诱惑的新世界之前,先学会如何用规则驯服它,是我们当下唯一正确的选择。



https://wap.sciencenet.cn/blog-39263-1526788.html

上一篇:驱散21世纪科学天空两朵乌云,智能体"最小完备”架构可能是关键
下一篇:243种元素的智能体能力周期表,探索构建智能科学的“元素周期表“
收藏 IP: 111.193.91.*| 热度|

1 郑永军

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2026-3-21 22:42

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部