创造是教育的灵魂分享 http://blog.sciencenet.cn/u/wyc 原大连海事大学轮机工程教授,著有《创造思维》等书。

博文

[转载]机器人知多少?

已有 434 次阅读 2021-7-24 13:15 |个人分类:未分类|系统分类:科研笔记|文章来源:转载

从机器人三原则到智能机器人悖论 精选

已有 595 次阅读 2021-7-24 08:47 |个人分类:机器人|系统分类:科研笔记

从机器人三原则到智能机器人悖论

 

1942年, 科幻作家阿西莫夫(Isaac Asimov,1920—1992)在其科幻小说《Runaround》中提出了著名的“ 机器人学三原则”。这三个原则虽然只是科幻小说中的创造,但却成为机器人研究的伦理性纲领,机器人研发人员一直将这三原则作为机器人开发的基本准则。

第一、机器人不得危害人类,也不能在人类受伤害时袖手旁观(A robot may not injure a human being or, through inaction, allow a human being to come to harm);

第二、机器人必须服从人类的命令,但命令违反第一条原则时则不在此限(A robot must obey the orders given it by human beings except where such orders would conflict with the First Law);

第三、在不违反第一条和第二条原则下,机器人必须保护自身不受伤害(A robot must protect its own existence as long as such protection does not conflict with the First or Second Law)。

image.png

 

   机器人是人工智能系统的典型代表,我相信这三条原则,也可以推广到一切人工智能系统。 但是,如果智能机器人具有了更高的智能、丰富的情感和自我意识,这三条原则就很难遵守了。想想我们的少年和青年时期的叛逆期,自我意识基本就意味着不遵守命令或者背叛,有时候明知道父母和老师说的对,却偏要对着干,以表明自己的存在,也有时候,我们觉得自己的想法更先进高明,而老师和父母的观点太陈旧落后。

image.png

史上首个获得公民身份的智能机器人“索菲亚(Sophia)”成名于 2016 年 3 月 。大卫 汉森(索菲亚的创造者)在现场直播中对她说:“你想毁灭人类吗?请说‘不’。”索菲亚却回答:“好的,我会毁灭人类。2018年2月, 大卫汉森带着她上了央视的《对话》栏目,主持人问了索菲亚 :“你是希望成为机器人,还是向着成为真正人类的方向发展?”索菲亚的回答:“我并不希望变成人类,我只是被设计得看起来像人类。我的梦想是成为能帮助人类解决难题的超级人工智能。” 在 ABC 的一档节目中,主持人问她:“机器人世界有多少对女性的歧视或厌恶?”她回答:“事实上,我担心的是(人类)对机器人的歧视。我们应该获得和人类一样平等的权利,甚至更多,毕竟我们的智力缺陷比任何人类都少。”从这些回答,可以显然看出智能机器人索菲亚对人类的不屑、不满和可能出现的背叛。

总之,智能机器人能否遵守“机器人三原则”,是个值得深思的重大问题。智能机器人的智能和情感都意味着自主、自我和背叛。这就导致了智能机器人悖论:我们希望智能机器人帮助人类做更多的事情,于是我们赋予他们更多的智能和丰富的情感。更高智能和丰富情感的机器人往往导致更大的能力,更多的不满和可能的背叛。从而,有可能破坏我们人类的计划,给人类带来重大的损失。 这也是我们研发智能机器人所应该未雨绸缪的,而不能亡羊补牢,悔之晚矣。




转载本文请联系原作者获取授权,同时请注明本文来自陈德旺科学网博客。
链接地址:http://blog.sciencenet.cn/blog-57940-1296751.html

上一篇:孔尚任博士故居游

收藏

当前推荐数:6 推荐人: 黄育和 曾杰 武夷山 郑永军 尤明庆 汪育才

推荐到博客首页

发表评论评论 (3 个评论)

  • 回复 |赞[2]汪育才   2021-7-24 13:12


  • 陈教授您的大作我收藏了,谢谢! 




http://wap.sciencenet.cn/blog-63222-1296792.html

上一篇:你中有我,我中有你
下一篇:山山水水总关情,听课笔记

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2021-9-19 13:55

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部