註釋:
這裏的目的就是最大化兩次迭代之間的差值。
1、差值的最大值如果小於0,說明已經到了最大值,在當前位置向任何方向走,對數似然函數都會變小,我們要求的就是極大似然函數,所以已經得到最大的似然函數,此時的參數即是所求的。
2、差值如果大於0,那麼我們現在就是要最大化差值,這裏我們得到了差值的下界,我們可以通過不斷的最大化這個下界,從而得到最大的差值,最大化這個下界,首先對求關於的偏導數,並令偏導數爲0,但是這裏我們可以看出求出的偏導數
含有多個變量,不易同時優化。因此在這裏引出了下面的方法。