原创 知識圖譜融合與知識圖譜對齊Summary

兩個(或多個)知識圖譜的融合是怎麼實現的呢?所謂融合,可以理解存在以下三種操作:1)實體詞在新的上下級位置上進行插入;2)不同圖譜中的同義實體詞完成合並;3)三元組關係隨着實體詞位置變化而動態調整. 1. 知識融合的常見問題 數據

原创 知識圖譜與問答系統-論文分享兩則

論文一:Improving Question Generation with Sentence-level Semantic Matching and Answer Position Inferring 論文鏈接:https://

原创 基於BERT的多模態應用:圖像,視頻如何通過BERT處理

基於BERT的多模態應用:圖像,視頻如何通過BERT處理 本次分享的是結合了預訓練的語言模型BERT和視覺方面的結合。分爲單流模型和雙流模型。單流模型指在訓練開始前融合多模態數據,雙流模型是先對多模態數據進行獨立編碼,在進行融合。

原创 知識圖譜在人工智能中的應用與思考

知識圖譜在人工智能中的應用與思考 1. 人工智能是爲了解決生產力升級的問題 人類的生產力可以分爲知識生產力,勞動生產力。人工智能可以從兩個方面加速生產力的提升。 人工智能又可以分爲感知型智能,認知性智能,行爲智能。一般來講

原创 幾個與BERT相關的預訓練模型分享-ERNIE,XLM,LASER,MASS,UNILM

基於Transformer的預訓練模型彙總 1. ERNIE: Enhanced Language Representation with Informative Entities(THU) 特點:學習到了語料庫之間得到語義聯繫,

原创 深度學習NLP-詞向量篇(含代碼實現)

本文是最近學習了斯坦福大學的NLP課程CS224N,和一些相關教程後,整理出來的一篇關於詞向量的學習筆記。主要記錄了關於詞向量的產生,關於計數的詞向量生成法,基於分佈的詞向量生成法(Cbow,Skip-gram,GloVe),和一

原创 自然語言處理中的小樣本數據問題-數據增強與半監督學習模型

本文借鑑了NLP中的少樣本困境問題探究,記錄讀後筆記和感想。 目標:我們希望採取相關數據增強或弱監督技術後 在少樣本場景下,比起同等標註量的無增強監督學習模型,性能有較大幅度的提升; 在少樣本場景下,能夠達到或者逼近充分樣本下的

原创 知識圖譜的構建與質量評估

本文由知識圖譜的結構構建,實體抽取,實體關係和屬性抽取,知識圖譜評估,知識圖譜精煉六個部分組成。 一、知識圖譜構建 知識圖譜在目前知識體系中的三種組織分類: Ontology:樹狀結構,關係是嚴格的IsA關係,便於知識推理,但沒

原创 學術會議--小白鬚知

學術會議的通識 學術年會呢本質上來講其實就是某一領域的科研工作者們按期舉辦的大型知識討論會。學術會議主辦方一般是一個學術協會(association), 這種協會最開始可能是幾個對某個共同話題感興趣的研究者們張羅起來的,然後聚攏的

原创 動態規劃和遞歸算法

假定有一個LeetCode題目 1. 使用遞歸算法 我們需要判斷改題目是否由多個子任務組成,可以嵌套成遞歸的形式,在這一步我們往往需要一個遞歸表達式。 當有中間狀態時 有時候我們在處理路徑搜索,有中間狀態如狀態矩陣時,我們需要設定

原创 圖像數據增強讀書筆記

A Survey on Image Data Augmentation for deep learning Ref: 1. A survey on Image Data Augmentation for Deep Learning