Boosting族算法最著名的代表是AdaBoost算法。
AdaBoot算法兩個核心步驟:
每一輪中如何改變訓練數據的權值?
AdaBoost算法提高那些被前一輪弱分類器錯誤分類樣本的權值,而降低那些被正確分類樣本的權值。
於是那些沒有得到正確分類的數據由於權值的加大而受到後一輪的弱分類器的更大關注。
最後如何將一系列弱分類器組合成一個強分類器?
AdaBoost 採用加權多數表決的方法:
加大分類誤差率較小的弱分類器的權值,使得它在表決中起較大作用。
減小分類誤差率較大的弱分類器的權值,使得它在表決中起較小的作用。
一、算法