原创 語義分割淺析

背景 對圖像而言,常見的任務是: 圖像分類:提取類別特徵,如:VGG19網絡 目標檢測:提取類別,位置特徵,如:YOLO網絡 語義分割(實例分割):提取類別,位置特徵,針對每個像素,如:Deeplab網絡 我們知道,在做圖像分類的時候

原创 Tensorflow Lite介紹

簡介 Tensorflow Lite是針對移動設備和嵌入式設備的輕量化解決方案,佔用空間小,低延遲。Tensorflow Lite在android8.1以上的設備上可以通過ANNA啓用硬件加速。 支持浮點運算和量化模型,並已針對移動平臺進

原创 使用Tensorflow創建Transformer模型

Transformer 本篇文章是源碼實現,模型原理介紹請查看取代RNN結構的Transformer這篇文章,讓我們開始吧! import tensorflow as tf from official.transformer.mode

原创 4種方法計算句子相似度

Edit Distance 計算兩個字符串之間,由一個轉成另一個所需要的最少編輯次數,次數越多,距離越大,也就越不相關。比如,“xiaoming”和“xiamin”,兩者的轉換需要兩步: 去除‘o’ 去除‘g’ 所以,次數/距離=2。

原创 從Word2Vec到Bert

Word2Vec模型 Word2Vec有兩種訓練方法:CBOW和Skip-gram。CBOW的核心思想是上下文預測某個單詞,Skip-gram正好相反,輸入單詞,要求網絡預測它的上下文。 如上圖所示,一個單詞表達成word embedd

原创 模型微調

什麼是預訓練模型 預訓練模型就是已經用數據集訓練好了的模型 現在我們常用的預訓練模型,比如:VGG16/19,Resnet等模型,並且已經用大型數據集來做訓練,如:Imagenet,得到訓練好的模型參數 什麼情況下使用微調 手頭的數據

原创 google-colab平臺訓練模型案例

數據集介紹 數據集來自Kaggle,質量很高,由知名醫院的專業人員嚴格審覈標註,如圖所示數據有4種類別: CNV:具有新生血管膜和相關視網膜下液的脈絡膜新血管形成 DME:糖尿病性黃斑水腫與視網膜增厚相關的視網膜內液 DRUSEN

原创 使用DeepLab進行語義分割

介紹 DeepLab是谷歌使用tensorflow基於CNN開發的語義分割模型,至今已更新4個版本。最新版本是DeepLabv3+,在此模型中進一步將深度可分離卷積應用到孔空間金字塔池化和解碼器模塊,從而形成更快,更強大的語義分割編碼器-

原创 即將取代RNN結構的Transformer

Transformer之前 上圖是經典的雙向RNN模型,我們知道該模型是通過遞歸的方式運行,雖然適合對序列數據建模,但是缺點也很明顯“它無法並行執行”也就無法利用GPU強大的並行能力(這裏插句題外話,正因爲GPU強大的並行能力,所以bat