王志坚分享 http://blog.sciencenet.cn/u/王志坚 ,

博文

博弈演化与人工智能伦理

已有 2778 次阅读 2017-9-26 15:01 |系统分类:科研笔记

自从石头剪刀布实验名满天下,与相识旧人见面,必答题成了:“石头剪刀布研究什么?” 回答这样的问题,面对着以千年计的、人人都知道的石头剪刀布, 你要给出应人而异的、应景的回答。不过,我回答的逻辑,无外乎就是讲清楚二个概念,第一,博弈;第二博弈会导致演化。

另外一个也是千年计的、人人都知道的,那就是“道理”。它也可以表达为,道德、伦理、正义、传统等等一个概念集的元素。  

再一个又是千年计的、人人都都知道的,就是围棋。围棋被视为东方文化和智慧的顶峰,其上,人工智能来了,赢了。

毋庸置疑,人工智能会给人类社会带来巨大的福利。然而,我们大都希望,人工智能体应该是讲“道理(伦理)”的。 把这样的愿望,付诸行动,我们需要有可以借助的力量。人类最有力量的是什么, 我想主要就二点, 一个是社会制度系统,一个是科学知识系统。前者体现为法律、规范、标准、传统、习俗等等,后者体现为,功能、效率、可用性、鲁棒性等等。  

作为AIIA的科普与伦理工作组的理论基础,开个头:
Computational and Experimental Social Morality of Artificial Intelligence Agents

人工智能体伦理计算理论与实验方法

http://socexp.zju.edu.cn/aim.htm
 







https://wap.sciencenet.cn/blog-30719-1077835.html

上一篇:2016年的句号
下一篇:博弈的力量、算法的力量
收藏 IP: 58.100.60.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2022-11-28 22:17

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部