原创 ULMFiT解讀(論文 + PyTorch源碼)

可能是筆者孤陋寡聞,感覺這篇論文沒有BERT、ELMo這麼火,筆者也是在搜索相關話題的文章的時候,看到大家都會帶着ULMFiT進行分析,因此也就去研究了一下。總體來說,這篇論文也是pretrain+finetune的思路,探索的比較淺

原创 GPT-2解讀(論文 + TensorFlow實現)

GPT-2是對GPT的一個升級,並且更着重於將思路放在爲何pretrain是有用的上面,認爲LM本身是一個Multi-task Learner,並且大力用ZSL實驗來佐證這個思路。 文章目錄一. 前言二. GPT-2原理1. 數據集2

原创 Transformer(論文 + PyTorch源碼解讀)

Transformer模型早在2017年就出現了,當時實驗室的分享也有關於這個的。但我當時沒有意識到這篇論文的厲害之處,聽名字感覺像是那種曇花一現的論文,也沒有關注它。直到最近出現了BERT這一神物之後,方纔後知後覺此時Transfo

原创 Transformer-XL(論文 + PyTorch源碼解讀)

前言 目前在NLP領域中,處理語言建模問題有兩種最先進的架構:RNN和Transformer。RNN按照序列順序逐個學習輸入的單詞或字符之間的關係,而Transformer則接收一整段序列,然後使用self-attention機制來學

原创 《推薦系統實踐》算法純享(附代碼鏈接)(七)——評分預測篇

在上一篇博客裏面分享的是《推薦系統實踐》中社交網絡推薦相關的推薦算法,對此還不熟悉的讀者可以戳這裏。 關於這個系列會分爲如下幾個部分: 《推薦系統實踐》算法純享(附代碼鏈接)(一)—— 評價指標篇 《推薦系統實踐》算法純享(附代碼鏈接

原创 《推薦系統實踐》算法純享(附代碼鏈接)(四)—— UGC推薦篇

在上一篇博客裏面分享的是《推薦系統實踐》中冷啓動相關的處理算法,對此還不熟悉的讀者可以戳這裏。 關於這個系列會分爲如下幾個部分: 《推薦系統實踐》算法純享(附代碼鏈接)(一)—— 評價指標篇 《推薦系統實踐》算法純享(附代碼鏈接)(二

原创 《推薦系統實踐》算法純享(附代碼鏈接)(五)—— 藉助上下文信息推薦篇

在上一篇博客裏面分享的是《推薦系統實踐》中UGC相關的推薦算法,對此還不熟悉的讀者可以戳這裏。 關於這個系列會分爲如下幾個部分: 《推薦系統實踐》算法純享(附代碼鏈接)(一)—— 評價指標篇 《推薦系統實踐》算法純享(附代碼鏈接)(二

原创 《推薦系統實踐》算法純享(附代碼鏈接)(六)—— 藉助社交網絡推薦篇

在上一篇博客裏面分享的是《推薦系統實踐》中上下文推薦相關的推薦算法,對此還不熟悉的讀者可以戳這裏。 關於這個系列會分爲如下幾個部分: 《推薦系統實踐》算法純享(附代碼鏈接)(一)—— 評價指標篇 《推薦系統實踐》算法純享(附代碼鏈接)

原创 《推薦系統實踐》算法純享(附代碼鏈接)(二)

在上一篇博客裏面分享的是《推薦系統實踐》中協同過濾相關的算法,對此還不熟悉的讀者可以戳這裏。 關於這個系列會分爲如下幾個部分: !TODO 此處會陸續放上各個部分的鏈接 完整代碼鏈接:https://github.com/Magic

原创 《推薦系統實踐》算法純享(附代碼鏈接)(一)

最近看了項亮大大的《推薦系統實踐》一書,想借此入門推薦系統。書中有很多關於推薦系統的基礎性介紹,內容由淺入深,相當平易近人。這系列博客將主要針對書中的算法部分進行梳理,並附自己實現的代碼鏈接,以備日後查閱。 這個系列分爲如下幾個部分:

原创 趣學Git分支—本地分支篇

這一系列共有兩部分: 趣學Git分支——本地分支篇 趣學Git分支——遠程分支篇 最近在項目開發的過程中經常需要使用Git,但我對Git的理解除了使用過常規的add,commit,push等之外,其他的都不太瞭解,完全不足以支撐我在日

原创 趣學Git分支——遠程分支篇

這一系列共有兩部分: 趣學Git分支——本地分支篇 趣學Git分支——遠程分支篇 這裏仍然是繼續學習learnGitBranching中的遠程分支部分,爲了保持博客的獨立性,這裏再簡要介紹一下:learnGitBranching一個可

原创 論文筆記:Learning to Detect Violent Videos using Convolutional Long Short-Term Memory

論文鏈接:Learning to Detect Violent Videos using Convolutional Long Short-Term Memory 目標 給一段視頻,判斷是暴力視頻(violent)還是非暴力視頻(non

原创 hihoCoder#1141 : 二分·歸併排序之逆序對 解題記錄

時間限制:10000ms 單點時限:1000ms 內存限制:256MB 描述 在上一回、上上回以及上上上回裏我們知道Nettle在玩《艦これ》。經過了一番苦戰之後,Nettle又獲得了的很多很多的船。 這一天Nettle在檢查自

原创 hihoCoder#1139 二分·二分答案 解題記錄

時間限制:10000ms 單點時限:1000ms 內存限制:256MB 描述 在上一回和上上回裏我們知道Nettle在玩《艦これ》,Nettle在整理好艦隊之後終於準備出海撈船和敵軍交戰了。 在這個遊戲裏面,海域是N個戰略點(編號1