機器學習西瓜書：經驗誤差與過擬合

$錯誤率=\dfrac{分類錯誤的樣本數}{樣本總數}$
$精度=1-錯誤率=1-\dfrac{分類錯誤的樣本數}{樣本總數}$
$誤差=\dfrac{實際預測輸出}{樣本的真實輸出}$

• 訓練集上的誤差：訓練誤差/經驗誤差
• 新樣本上的誤差：泛化誤差
• 過擬合：把訓練樣本自身的一些特點當做了所有潛在樣本都具有的性質，導致泛化能力下降。