原创 關於Catalan(卡特蘭)數的理解
卡特蘭數的起源 Catalan數源自Euler對凸多邊形通過不相交的對角線切分成三角形的不同切分方案數。n+1個頂點（A1,A2...An+1）的凸多邊形，取定多邊形的一條邊,不妨設爲A1An+1,任意取凸多邊形的一個頂點Ak+1(k=1
2020-06-23 15:14:15
原创 快速傅里葉變換(FFT)
快速傅里葉變換大學的時候就學了，可現在想起來都還回去了已經。前兩天做到一道大數乘法題：http://www.51nod.com/onlineJudge/questionCode.html#!problemId=1028 需要用到傅里葉變換
2020-02-22 23:27:28
原创 樸素貝葉斯
<<統計學習方法>>：樸素貝葉斯 這幾個概念一直弄的糊里糊塗的~~~ 樸素貝葉斯法是基於貝葉斯定理與特徵條件獨立假設的分類方法！ 貝葉斯定理：P(A|B) = P(B|A) * P(A) / P(B) 特徵條件獨立是指對於一個樣本點X，表
2020-02-22 23:27:28
原创 最大熵
零星感悟：最大熵 知之爲知之，不知爲不知 論文：The Improved Iterative Scaling Algorithm: A Gentle Introduction 核心思想：構造經驗期望減去模型期望的差，然後讓這個差等於零，此
2020-02-22 23:27:28
原创 漫畫線性代數
剛纔在看高橋的<<漫畫線性代數>>，一開始覺得很簡單，不過還是看到之前學的很多不紮實的地方： 關於矩陣的理解，矩陣的逆運算，矩陣的行列式計算方法！ 尤其是對矩陣的理解，其實只用將一個矩陣考慮成一個空間變換，一個矩陣乘以一個向量，得到另一個
2020-02-22 23:27:28
原创 AdaBoost
AdaBoost自適應增強，一直聽說這個方法，覺得很高端，大半夜的記一下！ 自適應增強的思想是用多個弱分類器提升出一個強的分類器：強可學習和弱可學習是等價的！ 步驟： 首先，你有一批數據<Xi, Yi>作爲訓練集 其次，你有一個學習
2020-02-22 23:27:28
原创 SVM中令 WX + b = 1的理解
都知道SVM中的核心就是找到一個超曲面來實現樣本點的線性可分，那麼對於多個可用的超曲面來說，哪個是最好的呢? Answer：SVM對超曲面選取的標準是：max margin 每一個候選的超曲面對應都有一個margin，我們選的就是讓這m
2020-02-22 23:27:28
原创 線性迴歸 最小二乘 梯度下降 隨機梯度下降
一下午只弄清楚這一個問題了，記錄一下，有點亂： 先從線性迴歸問題說起，爲了對樣本點進行擬合求得擬合函數來進行對新的輸入做出預測，便設計了一個衡量擬合函數好壞的標準，其實標準有很多：可以是SUM{|f(Xi) - Yi|} / N; 也可以
2020-02-22 23:27:28
原创 支持向量機之SMO
[原文]http://blog.csdn.net/zouxy09/article/details/17291543 寫的太吊了，不得不轉，把我前大半個月看的論文都總結了，而且講的非常好，最重要是有代碼實現！ 支持向量機 zouxy
2018-08-28 01:45:03
原创 機器學習中的範數規則化之（一）L0、L1與L2範數
轉自：http://blog.csdn.net/zouxy09/article/details/24971995 今天我們聊聊機器學習中出現的非常頻繁的問題：過擬合與規則化。我們先簡單的來理解下常用的L0、L1、L2和核範數規則化。最
2018-08-28 01:45:00
原创 Latent Dirichlet Distribution
整理自吳立德老師講的概率主題模型 視頻連接：http://www.youku.com/playlist_show/id_22935176.html
2018-08-28 01:45:00
原创 PCA：Principle Component Analysis [2]
轉自：http://deeplearning.stanford.edu/wiki/index.php/PCA 中文版：http://deeplearning.stanford.edu/wiki/index.php/%E4%B8%BB%E6
2018-08-28 01:44:59
原创 牛頓法與共軛梯度法
轉載出處：http://www.codelast.com/ 在最優化的領域中，這“法”那“法”無窮多，而且還“長得像”——名字相似的多，有時讓人覺得很迷惑。 在自變量爲一維的情況下，也就是自變量可以視爲一個標量，此時，一個實數
2018-08-28 01:44:59
原创 Gradient Descent
轉載：http://www.codelast.com/ 最速下降法（又稱梯度法，或Steepest Descent），是無約束最優化領域中最簡單的算法，單獨就這種算法來看，屬於早就“過時”了的一種算法。但是，它的理念是其他某些算法的組
2018-08-28 01:44:59
原创 科學計算 -- Octave 的函數列表
轉載地址:http://ccckmit.wikidot.com/oc:lib 矩陣函式庫 函數 英文 說明 使用範例 ' transpose 轉置 A' + add 矩陣相加 A+B - minus 矩陣相減 A-B * mu
2018-08-28 01:44:59