原创 pytorch中的一些方法用法集錦

目錄一、pack_padded_sequence和pad_packed_sequence二、masked_fill()三、nn.ModuleList 和 nn.Sequential 一、pack_padded_sequence和p

原创 pytorch中的repeat()

這兩天寫程序中需要,查到了一個非常好用的函數,爛筆頭比好記性好用,記錄下: import torch x = torch.tensor([1, 2, 3]) print(x.repeat(4)) print("##########

原创 傅里葉變換和拉普拉斯算子

最近在看傅里葉變換和拉普拉斯算子,看到的非常好非常好,容易理解又有形象概念的解釋: 傅里葉變換: 如何給文科生解釋傅里葉變換? https://www.jianshu.com/p/73f0ab14828a 深入淺出的講解傅里葉變換

原创 python中 list 的組合問題

源於最近寫程序頻繁用到了list中元素兩兩組合問題,特意總結如下: list中相鄰元素兩兩組合: portList = ['a', 'b', 'c', 'd'] for i, p in enumerate(portList):

原创 用TIKZ在LaTex中畫圖

我之前是用Edraw max畫圖的,但是有一個致命的問題就是在圖上寫字母的時候與圖解釋中不一致,所以嘗試了一下LaTex畫圖,哎呀,耗費我一下午的時間呀 首先導入包:\usepackage{tikz} 源碼如下: \begin{f

原创 深度學習中的網絡集錦

highway network 《Highway Network》發表在ICML2015年,PaperNote: https://zhuanlan.zhihu.com/p/35019701 pointer network

原创 tensorflow中的一些方法詳解

tf.train.slice_input_producer:https://blog.csdn.net/dcrmg/article/details/79776876 Normalization的各種:https://blog.cs

原创 seq2seq框架中技術要點彙總

seq2seq中的attention Copy Mechanism:解決OOV詞Copy Mechanism:解決OOV詞 來自於文章《Incorporating Copying Mechanism in Sequence-to

原创 python List中元素兩兩組合

aa = ['a', 'b', 'c'] bb = list(itertools.permutations(aa, 2)) print(bb) print("######################") cc = list(i

原创 NLP中三種特徵抽取器的優與劣

RNN ( LSTM, GRU ) : 缺點(1):無法並行,因此速度較慢 (2):RNN無法很好地學習到全局的結構信息,尤其對於序列結構很長的 CNN: BERT:

原创 transformer 中 tokenizer.tokenize() 和 tokenizer.encoder()

tokenizer.tokenize() : 使用 tokenize() 函數對文本進行 tokenization之後,返回的分詞的 token 詞 tokenizer.encoder(): encode() 函數對 文本 進行

原创 LaTex字母上方箭頭問題

N←\mathop{N} \limits ^{\leftarrow}N←​ : \mathop{N} \limits ^{\leftarrow} 但是在知乎博客裏的寫法是 \mathop{N}^{\leftarrow}, 注意

原创 關於scipy中的一些方法

純粹是因爲在看GCN的源碼,裏面涉及到很多scipy中的方法,對於這些不常用的方法感覺看一遍很快就忘記了,所以彙集在這兒吧。 一、比較 todense() 和 toarray() import scipy.sparse as sp

原创 pytorch關於隨機種子的問題

import torch seed = 2018 torch.manual_seed(seed) # 爲CPU設置種子用於生成隨機數 torch.cuda.manual_seed(seed)#爲當前GPU設置隨機種子;如果使用多個

原创 random.shuffle()和numpy.random.shuffle()

random.shuffle(): import random a = [1,2,3,4] b = [[5,6,7,8], [9,10,11,12]] #c = random.shuffle(a) #錯誤書寫方式,該函數返回值爲空