監督學習（一）
什麼是監督學習？
當我們希望通過某些輸入來預測對應的輸出，這時候就需要先使用已經存在的輸入/輸出數據對來訓練模型，這些數據對中，每一個輸入都一個已知的輸出，我們就是讓機器去學習這其中的規律
2.1 分類與迴歸
基本介紹
監督學習問題主要分爲兩種：分類與迴歸
分類問題：預測類別標籤。比如在（一）中實現的鳶尾花分類
- 分類問題又還可以分爲二分類和多分類。
- 在二分類問題中，我們通常將其中一個類別稱爲正類(positive class)，另一個類別稱爲反 類(negative class)。這裏的“正”並不代表好的方面或正數，而是代表研究對象。
迴歸問題：預測一個連續值。比如根據教育水平，年齡和居住地來預測一個人的年收入
- 預測的目標值是在某一個範圍內的任意取值
區分分類任務與迴歸任務的簡單方法：就是輸出是否具有某種連續性。
2.2 泛化、過擬合與欠擬合
基本介紹
泛化：如果一個模型能夠對沒見過的數據做出準確 預測，我們就說它能夠從訓練集泛化(generalize)到測試集
過擬合：如果在擬合模型時過分關注訓練集的細節，得到了一個在訓練集上表現很好、但不能泛化到新數據上的模型，這種情況就存在過擬合
欠擬合：模型在訓練集上的表現就很差，選擇過於簡單的模型被稱爲欠擬合
總結：我們的模型越複雜，在訓練數據上的預測結果就越好。但是，如果我們的模型過於複雜， 我們開始過多關注訓練集中每個單獨的數據點，模型就不能很好地泛化到新數據上。
模型複雜度與數據集大小的關係
模型複雜度與訓練數據集中輸入的變化密切相關，數據集中包含的數據點變化範圍越大，在不發生過擬合的前提下可以使用的模型就越複雜，對監督學習任務往往特別有用