钟定胜
不能过度相信更不能过度依赖人工智能-兼评波音737MAX8坠机事件
2019-3-19 17:37
阅读:1410

人工智能有着极为突出的优点,但这种优点相比人脑越突出,其潜在的缺点也会越发超出人脑的预判,由此导致其内部缺点的发现往往只能在其运行后的结果中才能被人脑在事后来发现。

从机理上来说,一个几乎必然的局面是:越是复杂的数值模拟系统和数值分析系统,越容易出现无法掌控的演化输出结果包括意外错误。阿法狗对战李世石的第四局就充分证明了这一点。

更为值得探究的是:即使是后来远远超出了对战李世石的阿尔法狗版本的阿尔法零版本,可以几乎肯定的是,这个到目前为止能够一直稳定地击败人类所有最顶尖高手的阿尔法零,也未必没有严重的致命缺点。因为我们没有任何理由去相信,现在的阿尔法零版本一定是绝对完美无缺的。只是要找到阿尔法零的重大缺点,可能已经远远超出了人类大脑的直接分析运算能力,而恐怕只能是通过更多的围棋对战(包括人机结合对战、人机结合分析,或是纯粹的机机对战)才能不断地去发现这种错误和缺陷。

因此,过度相信人工智能和计算机程序是盲目的和愚蠢的做法。尤其在涉及需要快速响应同时又人命关天的重大操作上,除非对人工智能程序有彻底的百分之百把握,否则在绝大多数情况下都应该把人为操作设置为第一优先级,即在人命关天的重要关头,必须首先相信操作员(飞行员),而不是相信人工智能程序。也许有人会说,如果被劫机了怎么办?问题是,对于被劫机等特例来说,再人工智能操作也无用,因为劫匪完全可以有其他暴力方法去继续实施犯罪(对于劫机犯罪的防范,首要的做法是依靠在登机前的预防、筛查(包括对机组人员),和登机后依靠机组空乘人员的人工监督掌控,而不是依靠登机后人工智能对飞机的自动掌控)。如果最后的调查证实了波音737MAX8坠机事件是由于计算机自动飞行程序错误(包括同时又过度禁止了飞行员的人为操控权的软件功能设置错误)所导致的,则意味着波音737MAX8在人工智能的功能架构上是存在重大缺漏的,这种错误完全可以通过设置稳妥且高效的飞行员操作优先权激活程序来避免(比如快速高效的指纹激活、暗门激活、密钥激活等等方法)。

最后的总结是:对于基于数值模型模拟的人工智能系统,永远都需要保持适当的戒备和怀疑,同时必须保留足够的且高效的防范应急通道和应急措施。

补充:一个存在智障的人工智能程序(阿尔法狗)可以轻松击败人类顶尖高手李世石(上来就轻松地以3:0比分赢了李世石的阿尔法狗,在第四局的表现无疑可以用智障来形容,尤其是最终的几步在围棋策略上是严重错误到智障级别的,那些错误绝不可能是编程人员故意让阿尔法狗那么去输的,而应该是阿尔法狗自己下出来的,即使是用了阿尔法狗自己的简化版本之类的原因),也因此,一个可以轻松击败所有人类顶尖高手的人工智能程序(阿尔法零)未必就没有智障。


转载本文请联系原作者获取授权,同时请注明本文来自钟定胜科学网博客。

链接地址:http://wap.sciencenet.cn/blog-3234816-1168396.html?mobile=1

收藏

分享到:

当前推荐数:0
推荐到博客首页
网友评论1 条评论
确定删除指定的回复吗?
确定删除本博文吗?