深度學習-算法的魯棒性與穩定性解析

1. 引言

“魯棒”的英文是robustness,中文譯爲強健,穩健,所以說算法的魯棒性直白點說就是健壯的、穩健的算法。

在深度學習領域,總是看到“算法的魯棒性”這類字眼,比如這句–L1範數比L2範數魯棒。

2. 魯棒性

Huber從穩健統計的角度系統地給出了魯棒性3個層面的概念:

  1. 一是模型具有較高的精度或有效性,這也是對於機器學習中所有學習模型的基本要求;

  2. 二是對於模型假設出現的較小偏差,只能對算法性能產生較小的影響;

    主要是:噪聲(noise)

  3. 三是對於模型假設出現的較大偏差,不可對算法性能產生“災難性”的影響。

    主要是:離羣點(outlier)

3. 穩定性與魯棒性區別

這裏用一個形象生動的網絡例子來闡述穩定性與魯棒性區別,單身的研究學者如有不適,請點贊或留言發泄~

正說着話,我忽然見到一位非常漂亮且可愛的女生與他們在一起,靈機一動,就轉身對着漂亮女生,給出瞭如下的解釋。

  • (1)穩定性:他是你的男朋友。那麼,如果他對周圍晃來晃去的其他年輕漂亮女孩子雖然也動了點心,但把持的住,依然很喜歡你,我們說他對你的感情是穩定的。
  • (2)魯棒性:也稱爲是強壯性、或者穩健性。當他的地位變了,升遷了,發達了,抑或變得與以前大不一樣的時候,他依然還是穩定的:依然很喜歡你,且對周邊年輕漂亮的女孩子把持的住。我們說他對你的感情就是魯棒的(Robust)。
  • (3)非脆弱性:前面說的都是假定你是堅定的、把感情作爲矢志不渝的,他的反應。現在,再來一點更厲害的:當你變老了,不再漂亮了,或者遇到不幸的創傷,疾病而變得……總之情況很糟,或者他發現了你過去可能遭遇到的一段不愉快的歷史等等。甚至更極端地,當你自己有點變心、花心、甚至犯了點錯誤的時候,他若依然是穩定的:依然很喜歡你,且對周邊年輕漂亮的女孩子把持的住。我們說他對你的感情就是非脆弱的的。

生動形象,簡單明瞭,哈哈~

您的支持,是我不斷創作的最大動力~

歡迎點贊關注留言交流~

深度學習,樂此不疲~

個人微信公衆號,歡迎關注學習~

在這裏插入圖片描述

參考文獻:

[1] Huber P J. Robust Statistics[J]. 1981. Wiley, New York.

[2] Hampel F R, Ronchetti E M, Rousseeuw P J, et al. Robust statistics: the approach based on influence functions[J]. 1986. Wiley, New York.

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章