自动化与安全（100324）
闵应骅
    我们国家的高速铁路已达到国际领先水平。上上下下都为之振奋。上世纪以来，飞机、火车、汽车和工业机器都在追求更加自动化、更加高效率。不过去年6月在华盛顿D.C.一列城铁撞上另一列的事故，使公众大为不悦，怀疑设计有问题。该事故死亡9人，80人受伤，可能是由于计算机故障，而且操作员未能及时制动。如照片所见。
    一个自动化的悖论说：当自动化系统越来越可靠、有效，操纵员心理上放松，依赖于自动化系统，而当自动化系统越复杂，事故的机会可能减少，但后果越发严重。了解人与机器的交互永远是复杂的。即使对最好的设计和工程专家，编程时考虑所有可能的情况几乎不可能。尤其是，随着技术的进步，整个系统更加复杂而且不断循环。所以有人说：在某些情况下，自动化还没有半自动好。
    人们容易看到自动化的好处，而忽视人机交互断裂的后果。去年6月法国航空公司447航班在大西洋上坠毁，机上228人全部遇难。是由于一个速度传感器的故障。驾驶员面前的压力测量装置是用液体流速反映的，由于结冰而无法发出信号。如果驾驶员及时得知这一情况，并采取手动措施，也许还有防止事故的可能。在日常生活中，有许多这样人和自动化系统之间的麻烦事。例如汽车司机完全依靠车内GPS自动驾驶系统，常常看到不正确的指向，甚至在高速路出口时加速，因为前面没有车。人机交互系统本身也可能出故障。设计者无法完全了解人们使用技术的方式和文化差异。在一个算法里考虑成千上万的变量极端困难。机器逻辑不可能和人脑一样，人脑也在不断地发现错误、纠正错误。这次华盛顿D.C.的城铁事故有人说是轨道太潮湿，计算机化的系统没有考虑到这一点。
    专家们仔细审查这次事故，没有发现问题。如果说是人为因素的话，只能怪工程、设计和编程技术。实际上，不存在什么操作错误，设计者不可能把系统作为一个整体来设计，也不能忽视某些重要因素。
    应该看到，进步还是有的。1989年，一百万次飞行有1.4次失事；而2008年降到0.2次。飞机工业已经研究人机工程学、谨慎过程(discreet processes)。问题是必须把硬件、软件、过程和人一起，看作一个系统来研究，包括认知功能、心理学和文化。将来，自动化的任何事故最终还会归咎于人。有人甚至认为：并不是所有的事情都要自动化，自动化不过是创造了一些新的不同的任务。这些新任务也许更麻烦，而且造出完全新的社会动态。  



转载本文请联系原作者获取授权，同时请注明本文来自闵应骅科学网博客。
链接地址：https://wap.sciencenet.cn/blog-290937-306315.html

上一篇：长寿命传感器（100322）
下一篇：信息安全技术要讲究有效性（100331）