原创 TensorFlow 使用上個模型輸出的一個向量表示 來給RNN生成一段文本
import tensorflow as tf from tensorflow.contrib.rnn import LSTMCell cell = LSTMCell(128,state_is_tuple=False) ini
2020-07-03 23:26:00
原创 tf.data接口，一個batch裏計算多種loss
使用if condition判斷一下 import tensorflow as tf condition = tf.placeholder(tf.int32, name="data_type") input_tensor = t
2020-07-03 23:26:00
原创 TensorFlow if語句 tensor 和 非tensor 比較
import tensorflow as tf condition = tf.placeholder(tf.int32, name="condition") A = tf.constant(value=123) B = tf.
2020-07-03 23:26:00
原创 python regex 返回index
import re print([(m.start(0), m.end(0)) for m in re.finditer("天安門", "北京天安門上太陽昇")]) print結果： [(2, 5)]
2020-06-29 21:55:46
1
原创 一種貌似可以解決textmatch模型不好構造負例的方案
就是使用生成式模型，text generation， 本來是判斷TextA和TextB1-TextB100的match score，再對100個進行rank， 改爲TextA生成TextB，直接生成出score最高的TextB，
2020-06-29 21:55:46
原创 Linformer 閱讀筆記
背景，普通的self-attention Q 是 n x d K 是 n x d V 是 n x d QK是 n x n 繼而 (QK)V 是n x d 計算量最大的在於QK出n x n這步，固算Attention爲O(n^2)複
2020-06-29 21:55:46
4
原创 CentOS yum 安裝GCC 5
sudo yum install centos-release-scl sudo yum install devtoolset-4-gcc* scl enable devtoolset-4 bash which gcc gcc -
2020-06-29 21:55:46
原创 TensorFlow 構造sequence的0/1 mask
import tensorflow as tf bert_input_ids = tf.constant([[1,2,3,0],[1,2,0,0]]) sequence_len = tf.reduce_sum(tf.sign(be
2020-06-29 21:55:46
原创 NS-CL 摘要速覽
https://openreview.net/group?id=ICLR.cc/2019/Conference THE NEURO-SYMBOLIC CONCEPT LEARNER: INTERPRETING SCENES, WO
2020-06-21 19:00:30
1
原创 how powerful are GNNs? 摘要速覽
HOW POWERFUL ARE GRAPH NEURAL NETWORKS? https://openreview.net/group?id=ICLR.cc/2019/Conference 我們對GNN的表示性質和侷限瞭解有限，
2020-06-21 19:00:30
1
原创 BA-NET 摘要速覽
https://openreview.net/group?id=ICLR.cc/2019/Conference BA-NET: DENSE BUNDLE ADJUSTMENT NETWORKS 本文介紹一個網絡結構，來解決 str
2020-06-21 19:00:30
原创 spark，在左表右表都有重複數據的情況下，left join之後數據數量等於左表
給左表人工加一個id列， 然後按想join的列join， 最後按這個id列distinct就行了。
2020-06-21 19:00:30
原创 tensorflow 構造對角線爲1的矩陣，並mask
import tensorflow as tf sess = tf.Session() input = tf.ones([2,3,3])*2 mask = tf.diag(tf.ones([3])) print(sess.ru
2020-06-21 19:00:30
原创 ICLR 2020 ENERGY BASED MODEL 摘要速覽
YOUR CLASSIFIER IS SECRETLY AN ENERGY BASED MODEL AND YOU SHOULD TREAT IT LIKE ONE https://openreview.net/group?id=
2020-06-21 19:00:29
2
原创 短文本分類數據集（英文）
https://opendata.stackexchange.com/questions/6080/data-sets-for-short-text-classification
2020-06-21 19:00:29
3