引用本文

刘晓倩, 张英俊, 秦家虎, 李卓凡, 梁伟玲, 李宗溪. 模糊认知图学习算法及应用综述. 自动化学报, 2024, 50(3): 450−474 doi: 10.16383/j.aas.c230120

Liu Xiao-Qian, Zhang Ying-Jun, Qin Jia-Hu, Li Zhuo-Fan, Liang Wei-Ling, Li Zong-Xi. A review of fuzzy cognitive map learning algorithms and applications. Acta Automatica Sinica, 2024, 50(3): 450−474 doi: 10.16383/j.aas.c230120

http://www.aas.net.cn/cn/article/doi/10.16383/j.aas.c230120

关键词

模糊认知图，学习范式，因果推理，软计算，复杂系统建模 

摘要

模糊认知图(Fuzzy cognitive map, FCM)是建立在认知图和模糊集理论上的一类代表性的软计算理论, 兼具神经网络和模糊决策两者的优势, 已成功地应用于复杂系统建模和时间序列分析等众多领域. 学习权重矩阵是基于模糊认知图建模的首要任务, 是模糊认知图研究领域的焦点. 针对这一核心问题, 首先, 全面综述模糊认知图的基本理论框架, 系统地总结近年来模糊认知图的拓展模型. 其次, 归纳、总结和分析模糊认知图学习算法的最新研究进展, 对学习算法进行重新定义和划分, 深度阐述各类学习算法的时间复杂度和优缺点. 然后, 对比分析各类学习算法在不同科学领域的应用特点以及现有的模糊认知图建模软件工具. 最后, 讨论学习算法未来潜在的研究方向和发展趋势.

文章导读

模糊认知图(Fuzzy cognitive map, FCM)作为一种强有力的软计算方法, 兼具神经网络和模糊逻辑的优势, 是不确定性人工智能理论核心工具之一[1–4]. 由于FCM在抽象性、灵活性、适应性、可解释性和模糊推理等方面的优势, 目前已广泛应用于众多领域, 如时间序列分析[5]、决策支持[6–8]、模式识别[9]、医疗诊断[10–12]等.

从拓扑结构上来看, FCM是表示因果关系的模糊有向图, 图中的节点可以表示真实世界中的概念(事件、动作、值、目标等), 加权边则表示概念节点之间的因果连接. 从功能上来看, FCM 是模糊逻辑和神经网络结合而来的产物, 具有知识表示和模糊推理的优势. FCM通过强调结构化的因果关系, 观测概念节点随时间的演化状态, 以一种接近人类认知的方式建模高度非线性系统中的不确定性. 更准确地说, FCM 可以通过对原始观测数据的学习与挖掘, 抽象出更高级的数据表示和演化模式, 模拟特定场景, 支持决策过程和预测模拟系统的未来状态, 为复杂系统的静态和动态分析提供必要的手段. FCM通常具有如下特点:

1)对不确定和不完全信息的强大的语义表示和解释能力;

2)概念间的动态的、可组合的、可调的和潜在的表示关系的捕获能力[13];

3)面向复杂系统和时间序列分析等不确定性人工智能模型的建模能力[4].

FCM在给定初始状态向量和初始权重矩阵的情况下, 能够模拟复杂动态系统随时间的演化过程或状态, 从而为因果“假设”问题提供直接的推理结果. 然而, 推理结果的稳健性和准确性高度依赖于给定FCM的权重矩阵. 因此, FCM的权重矩阵学习问题是FCM理论和应用研究的焦点之一. 早期从学习范式的角度, 权重矩阵学习方法主要分为赫布(Hebbian)学习算法、进化学习算法以及混合学习算法[14]. 在上述学习算法分类基础上, Stach等[15]梳理和总结2012年之前的研究工作, 将其分为基于专家的方法和计算方法. Felix等[16]在2019年总结和分析FCM在学习算法方面的研究成果, 其分类模式类似于早期基于学习范式的分类. 2020年, Shen等[17]从专家和数据驱动的角度概述近期的一系列从不同角度提出的FCM学习算法.

以上文献从不同角度归纳和总结FCM的相关研究工作, 但目前缺乏对FCM变体及其最新研究进展的学术文献. 为更全面地掌握FCM的发展现状及其面临的挑战, 本文重点梳理、归纳和总结其近年来的研究成果, 为开展相关理论和应用研究提供支持. 从理论和应用角度而言, FCM研究框架如图1 所示. 本文的主要贡献概括如下:

图 1  模糊认知图研究框架

1)系统总结FCM的拓展模型, 比较分析各类模型的特点及优缺点.

2)依据FCM现有学习范式, 将FCM学习算法划分为3类: 专家知识驱动的学习算法、自动学习算法和半自动学习算法. 归纳总结每类算法的时间复杂度及优缺点. 此外, 本文从图节点规模的角度, 讨论不同规模下的学习算法.

3)从FCM学习算法分类的角度, 总结各类算法的应用场景.

4)系统地归纳和总结用于实施、测试和验证FCM建模性能的软件工具.

5)讨论当前FCM学习算法及应用研究面临的挑战以及未来的发展方向.

本文的结构安排如下: 第1节回顾FCM的基本理论和概念; 第2节系统地阐述FCM的学习算法, 并对各类算法的原理、特点、优缺点及发展现状进行了深入讨论和分析; 第3节给出FCM学习算法的相关应用场景, 并对应用研究进行分类总结; 第4节总结目前现有的FCM建模工具; 第5节给出FCM学习算法的未来发展趋势.

图 2  6个概念节点的FCM案例的FCM案例

图 3  模糊认知图推理过程

FCM学习算法是不确定性人工智能领域一个具有重要研究意义的研究分支, 致力于分析FCM 及其特性, 旨在从先验知识或数据中学习FCM, 从而为复杂系统建模和动态分析提供参考依据. 本文系统地梳理、归纳和分析FCM理论和学习算法的发展现状. 1)介绍FCM的拓扑结构和推理机制的发展, 分析FCM的转换函数和动态特性, 并总结和分析近年来FCM结构的拓展模型. 2)提出FCM 学习方法可以根据学习范式的不同分为3类: 专家知识驱动学习算法、自动学习算法和半自动学习算法. 并详细阐述这3类算法的研究现状, 探讨每类算法优缺点. 此外, 从图规模的角度为读者提供一个FCM学习算法分类的新方式. 3)归纳近年来每类学习算法的应用领域. 4)总结用于FCM 构建和学习的软件工具.

通过对已有FCM学习算法及应用进行全面调研与综述, 学习算法的发展对FCM在知识表示和推理、复杂系统的建模和决策、时间序列预测和分类等方面的性能提升均已取得一定的成效. 本文从FCM 与其他研究领域交叉融合发展的角度出发, 总结FCM学习算法在理论框架和应用领域方面的探索方向和发展趋势:

1)学习算法

a)专家知识驱动的学习算法受限于专家经验和先验知识, 利用集成学习、强化学习等策略降低人类决策过程中的不确定性是一个具有潜力的研究思路.

b)基于进化的学习算法是目前FCM研究领域最广泛使用的自动学习方法, 但仍存在参数优化耗时、计算代价高、局部收敛等共性问题且在处理高维稀疏问题时具有局限性. 利用启发式算法、分布式计算方法以及偏好优化、约束多目标优化、进化多任务等技术, 探索科学高效的进化学习方法是当前FCM 研究的焦点之一.

c)半自动学习算法能够平衡专家知识驱动的学习算法和自动学习算法之间的局限性, 既考虑图结构的物理特性又保证学习结果的最优性. 然而其依然受专家知识的限制, 难以在现实领域中广泛应用. 因此, 如何自动获取专家知识是专家知识驱动的学习算法和半自动学习算法需要解决的核心问题. 自然语言处理技术、迁移学习和深度强化学习等技术为这一核心问题提供可能的解决思路. 如自然语言处理技术能够通过对文本数据的理解和分析, 构建模型所需专家知识. 迁移学习技术可将源域的知识迁移至目标域以解决专家知识有限的问题. 深度强化学习则可通过算法与专家交互, 逐步获得专家知识.

d)现有的FCM学习算法大多聚焦于单一视图的学习, 比如独立的复杂系统建模或从单个角度(时间维度或者空间维度)的时间序列分析, 然而在现实生活中复杂系统常常是由多个具有相互作用的子系统组成. 因此, 从多视图的角度学习FCM将成为未来FCM研究领域的发展趋势之一.

e)有向无环图(Directed acyclic graph, DAG)、回声状态网络(Echo state network, ESN) 和FCM 的网络结构类似, DAG 和ESN的网络更新方式能够为FCM的学习提供一种新颖的研究思路. 例如, 引入反向传播算法、动态调整机制和深度学习方法等技术, 来优化模糊系统的输出, 提高其适应性和泛化能力.

2)应用领域

a)目前FCM已成功应用于健康医疗、工业过程与控制、环境、农业和交通运输等领域, 然而作为一种智能工具其应用仍存在发展空间. 与其他技术的有机融合, 能够使FCM 在分布式智能、数据挖掘、智能决策与控制等领域实现更深入和更广泛的应用.

b)由于当前基于FCM的模型训练过程大部分采用离线数据驱动模式, 难以满足流数据的实时更新需求, 限制了FCM 的多样化发展和应用. 因此, 如何引入代理模型, 建立合理的数据转换方式, 将FCM的学习拓展为在线模式, 增强FCM的数据处理能力, 对拓展FCM 应用至更多领域至关重要.

作者简介

刘晓倩

北京交通大学计算机科学与技术学院博士研究生. 主要研究方向为数据挖掘和不确定性人工智能. E-mail: 20112016@bjtu.edu.cn

张英俊

北京交通大学计算机科学与技术学院副教授. 主要研究方向为数据挖掘与模糊推理. 本文通信作者. E-mail: zhangyj@bjtu.edu.cn

秦家虎

中国科学技术大学自动化系教授. 主要研究方向为多智能体系统分布式决策与复杂网络理论. E-mail: jhqin@ustc.edu.cn

李卓凡

北京交通大学计算机科学与技术学院硕士研究生. 主要研究方向为模糊认知图和进化学习. E-mail: 20120393@bjtu.edu.cn

梁伟玲

北京交通大学计算机科学与技术学院硕士研究生. 主要研究方向为时间序列分析和模糊认知图. E-mail: 20120377@bjtu.edu.cn

李宗溪

北京交通大学计算机科学与技术学院硕士研究生. 主要研究方向为模糊认知图和进化学习. E-mail: 22120402@bjtu.edu.cn