原创 Tri-training regression, 協同訓練迴歸

本帖續貼(Tri-trianing :http://www.cnblogs.com/liqizhou/archive/2012/05/11/2496162.html) 以往的半監督學習研究幾乎都是關注分類問題  ,雖然在監督學習中迴歸

原创 mysql sql命令大全

下面貼出我在實際工作中遇到mysql操作數據表的sql命令,如有不對的地方,請多指教: c++鏈接mysql頭文件命令 g++ is_in_polygon.cpp -o is_in_polygon -I/usr/include/m

原创 AdaBoost ,online Adaboost

Adaboost 在學習AdaBoosting和online Boosting, 最好有bagging和boosting基礎,這樣看起來比較會比較順。有空再補上。 AdaBoost 算法的主要思想之一就是在訓練集上維護一套權重分佈,

原创 手勢識別系統的發展前景

作者:庫什納(David Kushner) 我曾經能控制天氣,至少有過一次。在美國密歇根州安阿伯Cybernet Systems 技術研發公司一個沒有窗戶的演播室裏,我站在一塊綠色的背景幕前。面前有一部數碼攝像機,正在將我的影像實時傳

原创 拉格朗日對偶

2 拉格朗日對偶(Lagrange duality)      先拋開上面的二次規劃問題,先來看看存在等式約束的極值問題求法,比如下面的最優化問題:              目標函數是f(w),下面是等式約束。通常解法是引入拉格

原创 SVM(四) 支撐向量機,二次規劃問題

SMO優化算法(Sequential minimal optimization) SMO算法由Microsoft Research的John C. Platt在1998年提出,併成爲最快的二次規劃優化算法,特別針對線性SVM和數據稀疏

原创 計算機視覺領域的一些牛人博客,超有實力的研究機構等的網站鏈接

轉自http://blog.csdn.net/carson2005 以下鏈接是本人整理的關於計算機視覺(ComputerVision, CV)相關領域的網站鏈接,其中有CV牛人的主頁,CV研究小組的主頁,CV領域的paper,代碼,CV

原创 SVM(一) 問題的提出

SVM是支持向量機從誕生至今才10多年,發展史雖短,但其理論研究和算法實現方面卻都取得了突破性進展,有力地推動機器學習理論和技術的發展。這一切與支持向量機具有較完備的統計學習理論基礎的發展背景是密不可分的。 我看了一下網上的帖子和有關

原创 Random forests, 隨機森林,online random forests

Random Forests (隨機森林) 隨機森林的思想很簡單,百度百科上介紹的隨機森林算法比較好理解。 在機器學習中,隨機森林是一個包含多個決策樹的分類器, 並且其輸出的類別是由個別樹輸出的類別的衆數而定。 Leo Breima

原创 FuzzyKmeans,mahout實現

首先介紹一下,FuzzyKMeans算法的主要思想。 模糊 C 均值聚類(FCM),即衆所周知的模糊 ISODATA,是用隸屬度確定每個數據點屬於某個聚類的程度的一種聚類算法。1973 年,Bezdek 提出了該算法,作爲早期硬 C

原创 SVM(三),支持向量機,線性不可分和核函數

3.1 線性不可以分 我們之前討論的情況都是建立在樣例線性可分的假設上,當樣例線性不可分時,我們可以嘗試使用核函數來將特徵映射到高維,這樣很可能就可分了。然而,映射後我們也不能100%保證可分。那怎麼辦呢,我們需要將模型進行調整,以保

原创 EM, Expectation maximization

EM 算法是機器學習中比較重要的算法,可以用來做聚類。其EM的思想在纔是最重要(不斷的優化下界來逼近上界)。當我們面臨二個參數需要優化的時候,只要符

原创 Tri-training, 協同訓練算法

本個帖子繼半監督學習算法(http://www.cnblogs.com/liqizhou/archive/2012/05/11/2496155.html)         最初的協同訓練算法(或稱爲標準協同訓練算法)是A. Blum和

原创 爲什麼不去讀頂級會議上的論文?適應於機器學習、計算機視覺和人工智能的國際頂級會議

看了網上很多貼子,發現很多人都在問“熱門研究方向”、“最新方法”等。有同學建議國內某教授的教材、或者CNKI、或者某些SCI期刊。每當看到這種問題,我都有點納悶,爲什麼不去讀頂級會議上的論文?我無意否認以上文獻的價值,但是在機器學習、計算

原创 半監督學習

 最近的一段時間一直在學習半監督學習算法,目前,國內的南京大學周志華老師是這方面的泰斗,寫了很多這方面牛的文章,可以參考一下他的主頁:http://cs.nju.edu.cn/zhouzh/。在國內的學術界周老師一直是我比較欽佩的人之一