PRML第 47 頁損失函數中交叉項爲什麼會消失--計算過程

在PRML的第一章1.5.5節,計算關於損失函數過程中,根據原文得到如下內容:

這裏寫圖片描述
其中有一下推導過程:
這裏寫圖片描述
文中只用一句話描述了爲什麼交叉項會消失,”Substituting into the loss function and performing the integral over t, we see that the cross-term vanishes and we obtain an expression for the loss function in the form”.
那麼具體是怎麼的過程呢?我們單獨把交叉項拿出來:

2{y(x)E[t|x]}{E[t|x]t}

帶入loss function 中,並對t進行積分,這裏我們先對t積分,不考慮對x的積分。得到如下公式:
2{y(x)E[t|x]}{E[t|x]t}×p(x,t)dt

可以知道,積分的左邊因子是關於x的函數,對t的積分來說只是一個常數,可以放在積分的外面,只考慮積分內的內容:
2{E[t|x]t}×p(x,t)dt

由於p(x,t)=p(t|x)p(x) 可以得到如下公式
2{E[t|x]t}×p(t|x)p(x)dt

同樣的將p(x)提到積分號外面,並不考慮,可以得到
E[t|x]×p(t|x)dtt×p(t|x)dt

一樣的trick ,E[t|x] 是關於x的函數,放在積分號的外面,p(t|x)dt=1 ,所以第一項爲 E[t|x] 。另外根據定義,文中的公式1.89同樣給出。可以第二項爲得到:
t×p(t|x)dt=E[t|x]

結合交叉所有的內容:
{E[t|x]E[t|x]}×p(x)×2{y(x)E[t|x]}

所以交叉項爲0,不會在x的積分內容中出現。
個人推理,如有問題,歡迎指出!
以上!
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章