原创 線性代數及其應用：第五章 特徵值與特徵向量
文章目錄第五章 特徵值與特徵向量1.特徵值與特徵向量1.1. 求解特徵值與特徵向量1.2. 性質2. 特徵值分解2.1. 特徵值分解：2.2. 特徵值分解應用：差分方程2.2.1. 重要差分方程：Markov方陣2.3. 特徵值分
2020-06-14 17:33:10
8
原创 強化學習：Q-learning與DQN（Deep Q Network）
文章目錄Q-learning一些名詞epsilon-greedy算法流程DQN記憶庫(Experience replay)固定Q-目標(Fixed Q-target)算法流程 Q-learning是一種很常用很傳統的強化學習方
2020-06-14 17:33:09
109
原创 NLP：語言模型、中文自然語言處理流程、自然語言處理的任務
文章目錄語言模型（language model）專家語言模型統計語言模型神經網絡語言模型語言模型評價指標中文自然語言處理流程自然語言處理的任務 語言模型（language model） 專家語言模型 基於語言學專家設計的語法規
2020-06-14 17:33:09
原创 線性代數及其應用：第六章 正定矩陣與奇異值分解
文章目錄正定矩陣1. 正定矩陣1.1. 實對稱矩陣是正定矩陣的充要條件1.2. 實對稱矩陣是半正定矩陣的充要條件1.3. 實對稱矩陣與正定矩陣的分解2. 慣性定理2.1. 合同變換2.2. 慣性定理2.3. 慣性定理的推論2.4.
2020-06-14 17:33:09
原创 GradNorm：Gradient Normalization for Adaptive Loss Balancing in Deep Multitask Networks，梯度歸一化
文章目錄引言gradnorm gradnorm論文地址：https://arxiv.org/abs/1711.02257 gradnorm是一種優化方法，在多任務學習（Multi-Task Learning）中，解決 1.
2020-06-14 17:33:09
36
原创 卷積(Convolution)，反捲積(Transposed Convolution)，上採樣(UpSample, Interpolation)
文章目錄卷積(Convolution)反捲積(Transposed Convolution)padding=0, stride=1padding = n(n>=1), stride = 1Half (same) paddingFu
2020-06-14 17:33:09
原创 二分查找(BinarySearch)和快速排序(QuickSort)
文章目錄二分查找(BinarySearch)快速排序(QuickSort) 二分查找(BinarySearch) 二分查找用於在一個有序數組中，查找是否存在目標值，是分治法思維的體現，把大問題對半平分成兩個小問題。 下面是
2020-06-14 17:33:09
原创 NLP：TextRank 與 TF-IDF，原理與庫使用，關鍵詞提取
文章目錄TextRankPageRankTextRank關鍵詞抽取TextRank摘要生成TextRank4ZH庫的使用TF-IDF原理sklearn庫中TF-IDF的使用jieba分詞用於TextRank和TF-IDF Text
2020-06-14 17:33:09
原创 pytorch筆記：構建LSTM網絡，實現訓練驗證和測試過程
文章目錄LSTMmany to one型構建模型數據歸一化和分割訓練和驗證過程測試過程many to many型 關於LSTM和RNN，可以看我的blog，關於pytorch的一些基本操作，可以先看我的blog，這裏總結一下如
2020-06-14 17:33:09
原创 python：pandas dataframe數據處理總結，讀寫文件，增刪改查，缺失處理，連接合並，去重
文章目錄1. 生成dataframe更改行索引的顯示順序：更新列索引名：2. 讀寫數據文件json：csv:txt：3. 增加：增加一列：增加一行：4. 刪除：5. 更新shuffle排序對行排序對列排序(自定義列的順序)分組聚合
2020-06-14 17:33:09
原创 多任務學習（Multi-Task Learning，MTL）：SB，MMOE，SNR
文章目錄多任務學習最簡單直接的MTL想法（效果往往最差）SB（Shared-Bottom）MMOE（Multi-gate Mixture-of-Experts）SNR（Sub-Network Routing） 多任務學習（Mu
2020-04-19 13:36:20
原创 PSO搜參
文章目錄算法思想pso算法參數粒子更新公式：僞代碼總結參考文獻 論文地址：https://www.semanticscholar.org/paper/A-new-optimizer-using-particle-swarm-the
2020-03-18 23:44:07
原创 AUC：直觀理解AUC爲何會對正負樣本數分佈不均勻情況魯棒
文章目錄ROC與AUCAUC對正負樣本的魯棒性PR沒有類似的正負樣本魯棒性總結 AUC長用來衡量分類器，是一個十分常用的分類器衡量指標。AUC對正負樣本數分佈不均勻情況具有魯棒性，這篇blog直觀的看一下爲何AUC會具有如此的
2020-03-10 03:50:33
原创 NLP：FastText
文章目錄FastText原理實戰分類任務詞向量表示 FastText fastText是facebook在2016年提出的一個文本分類算法，是一個有監督模型，其簡單高效，速度快，在工業界被廣泛的使用。在學術界，可以作爲base
2020-02-25 22:42:23
原创 attention機制、self-attention、channel attention、spatial attention、multi-head attention、transformer
文章目錄attentionsequence attentionattention 與 self-attentionchannel attention 與 spatial attentionmulti-head attentiont
2019-10-26 12:09:39
467