从机器人三原则到智能机器人悖论 精选

已有 595 次阅读 2021-7-24 08:47 |个人分类:机器人|系统分类:科研笔记

从机器人三原则到智能机器人悖论

1942年， 科幻作家阿西莫夫（Isaac Asimov，1920—1992）在其科幻小说《Runaround》中提出了著名的“ 机器人学三原则”。这三个原则虽然只是科幻小说中的创造，但却成为机器人研究的伦理性纲领，机器人研发人员一直将这三原则作为机器人开发的基本准则。

第一、机器人不得危害人类，也不能在人类受伤害时袖手旁观（A robot may not injure a human being or, through inaction, allow a human being to come to harm）；

第二、机器人必须服从人类的命令，但命令违反第一条原则时则不在此限（A robot must obey the orders given it by human beings except where such orders would conflict with the First Law）；

第三、在不违反第一条和第二条原则下，机器人必须保护自身不受伤害（A robot must protect its own existence as long as such protection does not conflict with the First or Second Law）。

   机器人是人工智能系统的典型代表，我相信这三条原则，也可以推广到一切人工智能系统。 但是，如果智能机器人具有了更高的智能、丰富的情感和自我意识，这三条原则就很难遵守了。想想我们的少年和青年时期的叛逆期，自我意识基本就意味着不遵守命令或者背叛，有时候明知道父母和老师说的对，却偏要对着干,以表明自己的存在，也有时候，我们觉得自己的想法更先进高明，而老师和父母的观点太陈旧落后。

史上首个获得公民身份的智能机器人“索菲亚（Sophia）”成名于 2016 年 3 月 。大卫 汉森(索菲亚的创造者)在现场直播中对她说：“你想毁灭人类吗？请说‘不’。”索菲亚却回答：“好的，我会毁灭人类。2018年2月， 大卫汉森带着她上了央视的《对话》栏目，主持人问了索菲亚 ：“你是希望成为机器人，还是向着成为真正人类的方向发展？”索菲亚的回答：“我并不希望变成人类，我只是被设计得看起来像人类。我的梦想是成为能帮助人类解决难题的超级人工智能。” 在 ABC 的一档节目中，主持人问她：“机器人世界有多少对女性的歧视或厌恶？”她回答：“事实上，我担心的是（人类）对机器人的歧视。我们应该获得和人类一样平等的权利，甚至更多，毕竟我们的智力缺陷比任何人类都少。”从这些回答，可以显然看出智能机器人索菲亚对人类的不屑、不满和可能出现的背叛。

总之，智能机器人能否遵守“机器人三原则”，是个值得深思的重大问题。智能机器人的智能和情感都意味着自主、自我和背叛。这就导致了智能机器人悖论：我们希望智能机器人帮助人类做更多的事情，于是我们赋予他们更多的智能和丰富的情感。更高智能和丰富情感的机器人往往导致更大的能力，更多的不满和可能的背叛。从而，有可能破坏我们人类的计划，给人类带来重大的损失。 这也是我们研发智能机器人所应该未雨绸缪的，而不能亡羊补牢，悔之晚矣。

转载本文请联系原作者获取授权，同时请注明本文来自陈德旺科学网博客。
链接地址：http://blog.sciencenet.cn/blog-57940-1296751.html

上一篇：孔尚任博士故居游

收藏

当前推荐数：6 推荐人： 黄育和 曾杰 武夷山 郑永军 尤明庆 汪育才

推荐到博客首页

发表评论评论 (3 个评论)

• 

• 回复 |赞[2]汪育才   2021-7-24 13:12

• 
  

• 陈教授您的大作我收藏了，谢谢！ 

• 

• 回复 |赞[1]曾杰   2021-7-24 11:00

• 
  

• 伦理原则 - 属于人文哲学，
  设计原则 - 属于科学哲学 - 2010年Bj.Zeng在加州纳米技术暨expo会议论文集，发表的是机器人（纳米尺度）设计三原则（基于生命原理）。

• 曾杰 回复 曾杰 ： 大航海时代 - 科学和工业诞生http://blog.sciencenet.cn/blog-3480465-1296625.html，太空探险时代 - 进人了机器人时代https://m.bilibili.com/video/av27077509，尤其：
  xenorobot活体机器人，
  生物材料机器人https://c.m.163.com/news/a/G7PEDI8F0532UF20.html，
  动物仿生机器人，
  软体机器人，
  以及，AI与生物科学https://mp.weixin.qq.com/s/oRbqpWnFOk8HbEAqEkWmKw、药物研究与合成生物技术，
  VR与外骨骼、人机接口的机器人等，
  总之 - 未来，具有无限可能 - 一万年周期的文明升级。

  2021-7-24 11:181 楼（回复楼主）