原创 Active learning(主動學習)
主動學習假設： 1、在未標註數據中搜索的時間明顯要少於標註數據的時間。鏈接：Performance Thresholding in Practical Text Classification： 主動學習挑戰： 抽樣偏差：必須找到代表性的空
2020-06-22 02:59:23
原创 RNN－遞歸神經網絡
papers:Learning continuous phrase representations and syntactic parsing with Recursive Neural Networks
2020-06-22 02:22:14
原创 主動學習文章_active learning by querying informative and representative examples
介紹下抽樣偏差： 大部分的主動學習模型只考慮其中的一種，例如只考慮信息量大的，並沒有考慮未標註數據的結構，例子的選擇取決少量的已標註數據，所以會導致嚴重的抽樣偏差，得到錯誤的結果。 1、通過委員會查詢【17,6,10】 2、不確定性的抽
2020-06-22 02:22:14
3
原创 CYK算法
這個部分最好還是看wiki吧。。 先了解下上下文無關文法CFG： ：非終結符 ：終結符 ：規則的集合 ：句子初始符 其中：，，V爲總詞彙表 ，，是由V中元素所構成的串，至少含有一個非終結符，這樣才能由取代。 CFG：，，則,,其實就是
2020-06-22 02:22:14
原创 牛頓法及擬牛頓法（L-BFGS）
爲了搞懂L-BFGS，發現資料很少。 注意點：在牛頓法中，當H（x）是正定矩陣的時候，函數f(x)的極值爲極小值。 由於很多H(x)都是非正定的，所以引入了擬牛頓法。 在擬牛頓法中，令x=xk，這樣就得到了式子（5）,這個式子在李航的書中
2020-02-21 18:44:23
原创 softmax
softmax是柔性化最大值，是一種歸一操作，使得輸出在（0,1）之間 argmax其實是取得max時的arg，argmax=c 最後一層是softmax分類器，使用的是softmax函數，如同，在普通神經網絡裏面，使用的是邏輯迴歸，
2020-02-21 18:44:23
原创 Subgradient
1、次梯度定義： 2、次梯度是一個集合。 經常用在凸優化問題中，我們經常想要求一個函數對某個變量的梯度，但如果這個函數是不可微分的呢。就可以採用次梯度方法 一個函數的次梯度是一個集合[a,b]，a表示導數的左極限，b表示導數的右極
2020-02-21 18:44:23
原创 K-means(tri)利用三角不等式性質加速k-means
paper:Using the Triangle Inequality to Accelerate k-means 主要利用三角不等式：第三邊小於其他兩邊之和，那麼就找到了上限。 k-means性質：如果通過條件可以知道，那麼就不需要
2020-02-21 18:44:23
原创 Max margin framework
paper:Max-Margin Parsing :在函數取最大值的時候，y的取值。（page 2 ） 邊界的大小利用函數f(x)對w取模，量化了反對錯誤parse的自信度。 我們希望當錯誤parse y越來越嚴重的時候，這個自信度越來越
2020-02-21 18:44:23
原创 Deep Learning
DL原理： 當輸入和輸出相同時，中間可能要經過很多層。那麼中間的很多層都可以當做是輸入層的一種表示，DL就是來解決這些問題的，學到裏面的feature。 sparse coding: 是一組基（線性代數中基的思想：向量空間裏的基不唯一
2020-02-21 18:44:23
原创 協同過濾技術
協同過濾技術有SVD分解 針對稀疏矩陣的求解可以考慮低秩矩陣逼近技術，即low-rank matrix appromination paper:Local Collaborative Ranking 點贊 收藏
2020-02-21 18:44:23
原创 how to read a paper
鏈接：how to read a paper 要有三個過程： 一、花費5-10分鐘，便可以知道你是否對這篇論文感興趣 1、仔細閱讀文章標題，摘要，介紹 2、查看主章節和子章節的名字，但是忽視其他詳細的東西 3、閱讀結論 4、掃一眼參考文獻
2020-02-21 18:44:23
原创 mac中的Texshop中文亂碼問題
參見博客第一種方法：http://blog.csdn.net/quantumpo/article/details/9317925 先用着把，第二種方法會 出現缺少某些字體，所以就放棄了。 點贊 收藏 分享
2020-02-21 18:44:23
原创 An Analysis of Single-Layer Networks in Unsupervised Feature Learning
K-means:http://metaoptimize.com/qa/questions/4964/why-does-k-means-generate-such-good-features-especially-compared-to-g
2020-02-21 18:44:23