DFCM(Deep Fuzzy Cognitive Map)綜述

《Deep Fuzzy Cognitive Maps for Interpretable Multivariate Time Series Prediction》

目錄

1.    模糊認知圖（Fuzzy Cognitive Map, FCM）

1.1背景

1.2 FCM的基本概念

1.3 FCM的權重更新

2.深度模糊認知圖Deep FCM(DFCM)

---

1.    模糊認知圖（Fuzzy Cognitive Map, FCM）

1.1背景

從神經網絡的角度來看，可以把它看做是一個單層神經網絡，因此很多基於神經網絡的研究都可以進行借鑑；從圖的角度來看，它是一種有向加權圖，因此我們也可以藉助一些圖論方面的知識對其進行研究。另一方面，FCM允許反饋機制的存在，這樣也就爲複雜系統建模提供了可能。

1.2 FCM的基本概念

FCM描述了系統概念集和概念間的因果關係，它的具體定義如下：
FCM可以表示爲一個四元組

1. 其中表示構成有向圖的頂點的概念集。
2. 表示概念節點到的有向邊的權重，則所有節點構成的權重矩陣表示爲。
3. 表示概念節點到激活度的映射，則表示當前t時刻所有概念節點的激活度，也就是G在t時刻的狀態，其中。
4. f表示壓縮函數（squashing function），表示概念節點的激活度在t時刻到t+1時刻的轉換函數，即：，f用sigmoid函數表示，將激活度映射到[0,1]區間  ,其中 表示陡峭參數， 越大，sigmoid函數的形狀越接近節約函數，通常

1.3 FCM的權重更新

非線性Hebbian學習算法（Nonlinear Hebbian Learning, NHL）

權值更新公式：  

2.深度模糊認知圖Deep FCM(DFCM)

DFCM結構

:第i個概念  

：第i個概念的模糊激活狀態

：所有概念的模糊激活狀態(系統激活狀態)

: 到 的關係，FCM中是個常數，但是DFCM中是的函數

: 系統激活狀態和 的關係

:外界因素對 的影響

A：時間序列模糊化

給定一個由一組概念組成的系統，我們表示一個概念j的原始時間序列爲   

第一步：歸一化：    的均值    的標準差

第二步：用sigmoid函數模糊歸一化的時間序列     範圍是[0,1]

第三步：預測系統中給定激活狀態 ，

如果激活狀態只有0,1兩種狀態，直接a 就可以了

B: 模擬非線性的影響

基本FMC的一個缺陷就是描述非線性關係能力弱

DFMC擴展FMC爲：

: 系統激活狀態 和 的關係

:外界因素對 的影響

： sigmoid函數

顯然，當 ，   時，DFMC就退化成FMC

使用神經網絡構建 ：把 定義爲具有K個隱層的前饋神經網絡，第k層的神經元個數爲 ，在時間切片t中， k層第m個神經元的輸出爲：

是前一層n神經元到m神經元的權重，ReLU是激活函數

輸入：

預測輸出：   

在f函數中沒有偏置項，輸出層也沒有用ReLU激活

C: 模擬外界因素影響

FMC：靜態輸入

DFMC：LSTM  

把u函數序列輸入lstm

更新權重用的交替梯度下降的方法

D: 概念間關係

FCM的最大優勢在於它能夠揭示覆雜系統中的概念關係。這種優勢也稱爲FCM的可解釋性。基本的FCM使用 度量概念之間關係的強度。 的值有以下解釋：

表示概念 對概念 完全沒有影響;

表示 對 有正向影響;

表示 對 有負面影響

指的是 除了 之外的所有元素。

 描述 增加 時  增加的大小來度量概念之間的關係。