奧卡姆剃刀（Occam's razor）-----“若有多個假設與觀察一致，則選最簡單的那個”
多釋原則（principle of multiple） -----“主張保留與經驗 觀察一致的所有假設”
基本術語
錯誤率：把分類錯誤的樣本數佔樣本總數的比例。
m個樣本中有a個樣本分類錯誤，，，錯誤率爲E=a/m
1-a/m稱位“精度”
精度=1-錯誤率
過擬合：當學習器把訓練樣本學得“太好”了得時候，很可能已經把訓練樣本自身的一些特點當作了所有潛在樣本都會具有的一般特質，這樣就會導致泛化性能下降。