模型表示、參數學習
模型
成本函數(Cost function)
損失函數(Loss function)是定義在單個訓練樣本上的,也就是就算一個樣本的誤差,用 L 表示。
成本函數(Cost function),也叫代價函數,是定義在整個訓練集上面的,也就是所有樣本的誤差的總和的平均,也就是損失函數的總和的平均。
這個方程又稱“平方誤差函數(Squared error function)” 或者“均值平方誤差(Mean squared error)”。 “均值”是一半(1/2m),這方便計算計算梯度下降(gradient descent),平方函數的導數將會抵消 (1/2m)。同樣是爲了計算的方便,把假設函數的常數看成特徵值爲1的一個特徵,所以 θ 爲 n+1 維。