原创 求連通域及分組情況——並查集的使用

簡介 在計算機科學中,並查集是一種樹型的數據結構,用於處理一些不交集(Disjoint Sets)的合併及查詢問題。有一個聯合-查找算法(Union-find Algorithm)定義了兩個用於此數據結構的操作: Find:確定

原创 回溯算法的兩種形式——python刷題筆記

回溯算法本質是DFS的一種,先選擇一條路一直走到底 發現不符合要求了再返回 在尋路的過程中, 如果可以提前發現不符合要求 ,則提前終止 即爲剪枝 78.子集問題 給定一組不含重複元素的整數數組 nums,返回該數組所有可能的子集(

原创 決策樹與隨機森林超詳細筆記 原理與方法

一、決策樹 1、決策樹 ​ 1.決策樹是一種樹形結構,其中每個內部節點表示在一個屬性上的測試,每個分支代表一個測試輸出,每個葉節點代表一種類別。 ​ 2.決策樹的學習是以實例爲基礎的歸納學習 ​ 3.決策樹學習採用的是自頂向下的遞

原创 決策樹對鳶尾花數據的處理實踐

學習了決策樹和隨機森林的相關理論知識,讓我們來動手實踐吧~ 還是從熟悉的鳶尾花數據入手 首先導入相關包和進行數據預處理,預處理方法可以見https://blog.csdn.net/qq_43468729/article/detai

原创 隨機森林處理鳶尾花數據實踐

下面介紹隨機森林處理鳶尾花數據的python實踐,不清楚隨機森林原理的科研參考我的筆記https://blog.csdn.net/qq_43468729/article/details/84722248 開始擼代碼~~ 首先導入相

原创 提升boosting之Adaboost算法原理

AdaBoost實則是模型爲加法模型、損失函數爲指數函數、學習算法爲前向分步算法時的二類學習方法。具體過程如下: 1.設訓練數據集T 2.初始化訓練數據的權值分步 3.使用具有權值分步爲Dm的訓練數據集學習,得到基本分類器 4.

原创 線性迴歸原理及簡單代碼實現

一、概述: 初次接觸機器學習,發現最困難的一點是對於各種算法的理解,本系列博客將總結自己學到的機器學習相關算法以及簡單的代碼實現。首先是迴歸算法的相關心得。 二、線性迴歸: 1.定義: 線性迴歸在假設特證滿足線性關係,根據給定的訓

原创 Logistic迴歸與softmax迴歸算法原理

Logistic迴歸參數估計 1.一般不用線性迴歸做分類 Logistic迴歸實則是對數的線性迴歸 2.將θ套上一層sigmoid函數 再得到目標函數 得到目標函數爲: 取對數,化簡。再對θ求偏導: 3.Logistic迴

原创 邏輯迴歸處理鳶尾花數據實戰

自己在嘗試用邏輯迴歸處理鳶尾花數據時,遇到了很多坑,在這裏分享一下代碼和作圖原理。 1.首先導入包: import numpy as np from sklearn.linear_model import Logisti

原创 圖——提供並查集或者BFS、DFS的前提

1 圖與 DFS 現在你總共有 n 門課需要選,記爲 0 到 n-1。 在選修某些課程之前需要一些先修課程。 例如,想要學習課程 0 ,你需要先完成課程 1 ,我們用一個匹配來表示他們: [0,1] 給定課程總量以及它們的先決條件

原创 吳恩達機器學習配套作業2.2正則化邏輯迴歸 python實現

在訓練的第二部分,我們將要通過加入正則項提升邏輯迴歸算法。簡而言之,正則化是成本函數中的一個術語,它使算法更傾向於“更簡單”的模型(在這種情況下,模型將更小的係數)。這個理論助於減少過擬合,提高模型的泛化能力。這樣,我們開始吧。

原创 吳恩達機器學習配套作業2.1邏輯迴歸 python實現

在這部分的練習中,你將建立一個邏輯迴歸模型來預測一個學生是否能進入大學。假設你是一所大學的行政管理人員,你想根據兩門考試的結果,來決定每個申請人是否被錄取。你有以前申請人的歷史數據,可以將其用作邏輯迴歸訓練集。對於每一個訓練樣本,

原创 吳恩達機器學習配套作業1.1多變量線性迴歸 python實現

在本部分的練習中,需要預測房價,輸入變量有兩個特徵,一是房子的面積,二是房子臥室的數量;輸出變量是房子的價格。 import numpy as np import pandas as pd import matplotlib.py

原创 吳恩達機器學習配套作業1.0單變量線性迴歸 python實現

在本部分的練習中,您將使用一個變量實現線性迴歸,以預測食品卡車的利潤。假設你是一家餐館的首席執行官,正在考慮不同的城市開設一個新的分店。該連鎖店已經在各個城市擁有卡車,而且你有來自城市的利潤和人口數據。 您希望使用這些數據來幫助您