原创 Machine Learning筆記——迴歸模型(一)

目錄   一、瞭解數據 二、探索性數據分析,瞭解變量分佈與變量之間的關係 三、採用梯度下降法來求解迴歸係數 四、傳入實際數據查看預測結果 使用梯度下降法實現簡單的線性迴歸 一、瞭解數據 數據集:波士頓房價數據 預測變量與目標變量含義:

原创 Machine Learning筆記(六)

講了octave的一些基本語法=。= python科學運算的基本工具庫 numpy matplotlib pandas   向量化代碼,這個技巧很不錯 將看成一個向量整體,轉置之後與相乘就是矩陣的乘法

原创 Machine Learning筆記(十)

爲神經網絡擬合參數 代價函數 回顧下邏輯迴歸算法的代價函數: 在神經網絡中使用的代價函數是邏輯迴歸算法中使用的代價函數的一般化形式: m:訓練集的數量 K:分類問題中輸出層的神經元的數量 :表示第 i 個輸出層神經元的輸出,是一個K維向

原创 Machine Learning筆記——邏輯迴歸算法

使用python實現邏輯迴歸算法 數據來源:鳶尾花數據集 導入數據集,選取用來做試驗的數據 df = pd.read_csv('data/iris.csv') # 選取 setosa 和 versicolor 兩種花 # 兩種各選擇5

原创 Machine Learning筆記(四)

感覺回到了統計學多元迴歸的課堂,融入了使用線代中的矩陣運算 在多元情況下梯度下降算法(右邊): 下標 j 表示第 j 個參數,上標 (i) 表示第 j 個參數的第 i 條數據,本質上和上一節講的一元下的梯度下降算法(左邊)是一回事 優化

原创 Machine Learning筆記(三)

達成成就:在b站聽Andrew Ng講線代(手動狗頭) 簡單複習了矩陣的相關知識(線代學的還行表示無鴨梨) 講的比較簡單明瞭,而且在各種語言裏也有公式之類的 在不同場合或者語言下使用1索引還是0索引 矩陣加法只有維度相同的矩陣才能相加 矩

原创 Machine Learning筆記(五)

多項式迴歸 概念:與選擇特徵的想法密切相關的一個概念被稱爲多項式迴歸。 在課程中還是用的房價預測的例子,假設函數中本來有兩個特徵:x1:房屋的寬度,x2:房屋的深度(即長寬),這時候創造一個新的特徵房屋面積x:寬度與深度的乘積,然後對這個

原创 Machine Learning筆記(八)

過擬合問題及解決方法 從線性迴歸中房價的例子可以很容易理解欠擬合和過擬合的問題 過度擬合的問題將會在變量較多的時候發生,這種時候訓練的方程總能很好的擬合訓練數據,所以代價函數很可能非常接近於0,但是這樣的曲線它千方百計的擬合於訓練數據,

原创 Machine Learning筆記——迴歸模型(三)

Polynomial regression多項式迴歸 這裏我們沿用上一節的房價數據,對LSTAT(底層人口比例)和MEDV(房價)做迴歸分析(原因見Axes網格圖),同時將多項式迴歸結果與簡單線性迴歸效果作比較。其中關於多項式迴歸在htt

原创 Machine Learning筆記(一)

對,就是吳恩達老師的machine learning的公開課,在我大b站有中文簡體字幕版而且不會像在coursera上那麼卡。 課程鏈接:https://www.bilibili.com/video/av9912938/ 區分監督學習和無

原创 Machine Learning筆記(七)

分類問題 首先了解二分類問題:例如垃圾郵件分類,腫瘤良性惡性問題等等,即 下面我們瞭解一種新的算法:Logistic Regression(邏輯迴歸算法,首先它既不是邏輯也不是迴歸),邏輯迴歸算法的輸出值在0到1之間。 邏輯迴歸算法 假設