損失函數在反向傳播中的作用

在二分類問題中用的最多的是binary_crossentropy，在物體檢測中經常用到IoU，在醫學圖像分割中經常用到的是DICE, 它們的公式如下：

 

loss function.png

 

可以看出損失函數基本都是由真實值和預測值兩部分組成，正確的損失函數，可以起到讓預測值一直逼近真實值的效果，當預測值和真實值相等時，loss值最小。
下面是我以binary_crossentropy爲例推導的反向傳播過程，反向傳播是一個不斷更新權重w和偏差b的過程，當loss函數值爲0時，表示預測值達到真實值，這時候權重和偏差不再需要更新。