logit&sigmoid&logistic&logits傻傻分不清

在機器學習、深度學習中經常會遇到logit、sigmoid、logistic、logits幾個概念，特別再加上一些漢語翻譯的如“邏輯斯蒂”，更加容易混淆，這篇文章就爲大家總結區分下。

首先要明確logit、sigmoid、logistic、logits都是數學函數的名稱，表示一個具體的函數。
分別看下，
$\ logit(x) = log( \frac{x}{1-x} )$

$\ sigmoid(x)=\frac{1}{1+e^{-x}}$

• 從圖像上，可以清楚的看出來logit和sigmoid互爲反函數。

• 同時，sigmoid和logistic是同一個函數，只是名字不同。

logits是在一些深度學習編程框架中用到的概念，其實就是一個線性變換，然後輸入sigmoid或者softmax。

參考

• Logistic迴歸中的Logit函數和sigmoid函數
• logit函數和sigmoid函數是什麼關係？