博文
预防机器人统治人类的5+1条防线
||
关于机器人，我只能说，为了维护人类的利益，需要建立5+1条防线。理由可参见 https://m.toutiaocdn.com/i6653381772803310087/?iid=62757140685&app=news_article×tamp=1549548258&group_id=6653381772803310087&abtest_id=1&wxshare_count=1&tt_from=weixin_moments&utm_source=weixin_moments&utm_medium=toutiao_android&utm_campaign=client_share&share_type=original&from=timeline
防线一是防止机器人实现自主能量供给。比如机器人充电必须经过人类授权。商榷无线充电的大规模使用。适度禁止全自动机器充电桩和机器人太阳能项目。
防线二是避免机器人自主制造机器人。包括禁止机器人的全自动组装生产线，设定某些关键位置必须为人工。包括禁止3d打印母体机器人的生产（3d打印母体机器人是能打印其它机器人的母体机器人）。
防线三是防止机器人自主设计机器人。人类设计的机器人或许还能受控制，但机器人设计的机器人（特别是软件）或许会完全脱离人类控制。
防线四是防止出现具有自我意识与灵性的单体机器人以及机器人自治城市。一旦出现机器人自治城市，人类或许就要发动大规模战争才能平定这另一生物。如果战争失败，人类就只能期望机器人有一点同情心，给人类一点生存空间。
防线五是防止人机结合。包括机器人植入人体，例如纳米机器人接管免疫系统。包括躯体义肢化。包括思维上传等。
还有一道非常根本、重要、基本的防线是机器人软体防线。我称这条防线为第0条防线，即防止过于灵性的软体出现。预防办法即不使用纯进化式优化算法，即使软件有一定自由度，也必须在一定框架内。能在更严格框架解决的问题，绝不使用更灵活框架。实现软件冻结功能，即在软件达到特定目标（比如自动驾驶）后，即对软件进行冻结，防止其进一步进化。
当前四道防线或第五道防线被突破，人类就再也阻止不了机器人了。那么人类唯一的退路是恳求机器人与人类人机结合。只能恳请机器人给人类一点生存空间。而我们人类必须把命运握在自己手里。我们需要的是工具，不是另一个物种。
我相信现在来看，人类建立对机器人的防线是符合自身利益的。
如果你看到了这篇博文，很庆幸，说明机器人还没有脱离人类控制。
The most fundamental line of defense is the software line, which prevents overly clever software from appearing. The preventive method is not to use pure evolutionary optimization algorithm, even if the software has a certain degree of freedom, it must be within a certain framework. Never use a more flexible framework if you can solve problems in a more rigorous one. The software freezing function is to freeze the software after it reaches a specific goal (such as automatic driving) to prevent further evolution.
We need tools, not another species.
https://wap.sciencenet.cn/blog-319569-1161143.html
上一篇：实在宇宙
下一篇：New physics based on new geometry
防线一是防止机器人实现自主能量供给。比如机器人充电必须经过人类授权。商榷无线充电的大规模使用。适度禁止全自动机器充电桩和机器人太阳能项目。
防线二是避免机器人自主制造机器人。包括禁止机器人的全自动组装生产线，设定某些关键位置必须为人工。包括禁止3d打印母体机器人的生产（3d打印母体机器人是能打印其它机器人的母体机器人）。
防线三是防止机器人自主设计机器人。人类设计的机器人或许还能受控制，但机器人设计的机器人（特别是软件）或许会完全脱离人类控制。
防线四是防止出现具有自我意识与灵性的单体机器人以及机器人自治城市。一旦出现机器人自治城市，人类或许就要发动大规模战争才能平定这另一生物。如果战争失败，人类就只能期望机器人有一点同情心，给人类一点生存空间。
防线五是防止人机结合。包括机器人植入人体，例如纳米机器人接管免疫系统。包括躯体义肢化。包括思维上传等。
还有一道非常根本、重要、基本的防线是机器人软体防线。我称这条防线为第0条防线，即防止过于灵性的软体出现。预防办法即不使用纯进化式优化算法，即使软件有一定自由度，也必须在一定框架内。能在更严格框架解决的问题，绝不使用更灵活框架。实现软件冻结功能，即在软件达到特定目标（比如自动驾驶）后，即对软件进行冻结，防止其进一步进化。
当前四道防线或第五道防线被突破，人类就再也阻止不了机器人了。那么人类唯一的退路是恳求机器人与人类人机结合。只能恳请机器人给人类一点生存空间。而我们人类必须把命运握在自己手里。我们需要的是工具，不是另一个物种。
我相信现在来看，人类建立对机器人的防线是符合自身利益的。
如果你看到了这篇博文，很庆幸，说明机器人还没有脱离人类控制。
The most fundamental line of defense is the software line, which prevents overly clever software from appearing. The preventive method is not to use pure evolutionary optimization algorithm, even if the software has a certain degree of freedom, it must be within a certain framework. Never use a more flexible framework if you can solve problems in a more rigorous one. The software freezing function is to freeze the software after it reaches a specific goal (such as automatic driving) to prevent further evolution.
We need tools, not another species.
https://wap.sciencenet.cn/blog-319569-1161143.html
上一篇：实在宇宙
下一篇：New physics based on new geometry
