關於文章 A Llook At Gaussian Mixture Reduction Algorithems

第一次寫技術文檔,要求別太高了,尤其是對於我這樣一個小碩,還是一個不怎麼懂數學的女生小碩,哈哈偷笑

首先,必須說,這篇文章信息量很大,而且有很多數學公式,提到的算法也很多,科研真是不容易啊。。。。

這篇文章是關於混合高斯模型的約簡算法,我是因爲需要提取運動目標用到了高斯混合模型而接觸到這篇文章,對我來說要理解難度很大,很多東西都不懂,很難看進去啊。

話說,科研還真是奇妙,一方面,因爲混合高斯模型因爲效果還不理想,所以很多人想到了和其他算法的結合使用,簡單的有幀間差分法和canny邊緣算子,複雜的甚至有和神經網絡的結合,這樣,算法的複雜度和計算量就在增加;另一方面,卻有很多人在想盡辦法降低複雜度,就像這篇文章,約簡算法,就是爲了降低複雜度和計算量。不過呢,兩個方面都是爲了更好地應用混合高斯模型,這就是精度和速度之間的拉鋸戰吧。

簡單來說,高斯混合模型用於背景建模時可以看做一種聚類算法(其它應用時不瞭解),也就是根據混合高斯模型來將像素點分爲背景和前景兩類。

這個高斯混合模型約簡算法主要提到了三種約簡算法:GMRC(通過聚類的高斯混合約簡算法)、COWA(約束優化權重適應)和brute-force approach(蠻力方法或者硬方法),蠻力方法是作爲最後仿真實驗的一個比較的基準,以及他們的一些改進方法。

這裏提到的混合高斯模型算法通俗來說,就是一個概率密度曲線,之前使用N個高斯的混合來表示,爲了減少計算量的原因,現在要用L個來表示標率密度,要求是兩者之間的失真度最小,也可以說誤差最小。例如文中提到的實驗都是將原來是10個混合高斯表示的概率密度曲線要用5個高斯的混合來近似表示。


另外要提到的就是約簡算法性能的一個評價標準:誤差平方積分。從名字來看,就是誤差(約簡前後概率密度函數的差值)的平方的積分,越小表明效果越好(和誤差平方和最小一個道理),所以後面還提到了誤差平方積分(ISE)的最小化。

文中提到,約簡有兩個思路,一個是修剪(pruning),就是根據相似性原則,將一部分高斯部件去掉的意思;另一個思路是融合(merge),就是根據相似的方法將兩個高斯部件合成爲一個。還有一個方法是對於混合高斯模型的參數進行優化。

文中,兩條直線中間文字加粗的就是算法,相當於簡單的流程描述,下面一一看一下:

1、GMRC(爲什麼網上都找不到中文的算法描述呢,真是崩潰抓狂

步驟a:貪婪初始化,運行Runnalls’算法,來貨個概率密度函數的初始估計,貪婪初始化有很多種算法,這是其中一種,後面有提到這個算法的具體實現。

步驟b:聚類,使用k均值算法進行聚類,用Kullback-Leiber距離作爲一種距離度量來優化估計。

步驟c:優化,對誤差平方積分(ISE)進行迭代優化。(最小化)

(P.S. 還真是無淚了,就這一點算法表述提到了貪婪算法、聚類算法、迭代優化,感覺要把所有學過的內容整合到一起來理解貫通一樣,真是難啊,現在還是大雜燴、一鍋粥啊,希望多看幾遍能夠有點提高)

 

2、COWA

步驟a:貪婪約簡,運行增強的西部算法(enhanced West algorithm),減少一個混合高斯部件(或部件component),後面有提到這個算法的具體實現。

步驟b:優化,對約簡後的混合模型的均值和方差做一個估計,計算權重的全局優化值。

步驟c:再進一步約簡,如果已經約簡到L個部件(原來是N個,這也是約簡的目標,即從N個高斯component減少到L個)或者ISE已經小於E(最小閾值),表示已近不能再約簡,停止循環,否則回到步驟a。

3、Runnalls’算法

步驟a:設置當前混合模型爲完全混合(具體意思不懂)。

步驟b:計算i、j部件融合的代價Cij。將當前Cij最小的對應的兩個高斯融合,並設置當前混合爲結果。

步驟c:如果當前已經達到L個高斯,退出,否則回到步驟b。

4、enhanced West algorithm算法

步驟a:爲當前混合模型的每一個部件計算修正的權值。

步驟b:使i表示修正權值的最小值,融合j部件和i部件的代價是Cij用該ISE距離表示。找到一個j使得cij對這個i最小,如果這樣的一對ij未找到,則約簡結束,否則將該ij融合,並且設置當前混合爲結果。


5、k均值算法

這個算法很多地方都有講到,這裏就略過。

6、brute-force approach(蠻力方法)

其實這裏提到的方法在之前的數學中學到的羅列法是一樣的,就像有L個盒子,N個小球,要將這些小球放到這些盒子裏,原則是每一個盒子裏都要有小球即不能空,這樣我們會有很多種放的方法,在這裏的約簡方法就是要將這些放到一個盒子裏的部件融合,從而完成約簡。我們首先將所有的可能方式羅列出來,然後計算每一種方式的ISE,最後ISE最小的方式就是所需要的。


今天,先到這裏吧,看不下去了,還是很多地方沒看懂,第一遍也沒看完,看英文文獻真是考驗耐力啊,加油!奮鬥


這種文章選擇紫色會不會太不莊重了,不管了,我喜歡紫色,下次還是用黑色好了。




思考:

1、文中提到的思想和算法有什麼應用?

         混合高斯模型在數值逼近、語音識別、人體特徵識別、圖像分類、圖像去噪、圖像重構、故障診斷、視頻分析、信息過濾、密度估計、目標跟蹤與識別等領域都有廣泛的應用,

2、我們可以如何將文中的思想應用到我們的項目上?

         如果是經典的混合高斯模型用於背景建模提取運動目標,每個像素點模型一般使用3-5個高斯的混合表示,不需要本文提到的混合高斯約簡算法。

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章