迴歸損失函數：Log-Cosh Loss

Log-Cosh損失函數

Log-Cosh是應用於迴歸任務中的另一種損失函數，它比L2損失更平滑。Log-cosh是預測誤差的雙曲餘弦的對數。


優點：
對於較小的X值，log(cosh(x))約等於(x ** 2) / 2；對於較大的X值，則約等於abs(x) - log(2)。這意味着Log-cosh很大程度上工作原理和平均方誤差很像，但偶爾出現錯的離譜的預測時對它影響又不是很大。它具備了Huber損失函數的所有優點，但不像Huber損失，它在所有地方都二次可微。
但Log-cosh也不是完美無缺。如果始終出現非常大的偏離目標的預測值時，它就會遭受梯度問題。

Log-cosh損失函數的Python代碼：

# log cosh 損失
def logcosh(true, pred):
    loss = np.log(np.cosh(pred - true))return np.sum(loss)

摘錄：https://zhuanlan.zhihu.com/p/39239829

---

注：博衆家之所長，集羣英之薈萃。