吳恩達深度學習學習筆記——C3W2——機器學習策略2-2

 

2.6 解決數據不匹配問題

 

人工數據合成的比例不能太高，否則會導致對合成數據產生過擬合。

 

 

 

2.7 遷移學習

遷移學習的兩個例子：

1. 圖像識別應用遷移到醫學影像識別
2. 語音識別應用遷移到喚醒詞檢測

 

遷移學習的應用場合：

 

 

1. 任務A和任務B具有相同的輸入

2. 任務A的可用數據量遠大於任務B

3. 任務A的低層次特徵可能對任務B有所幫助

 

 

2.8 多任務學習

多任務學習的一個簡單示例：無人駕駛任務中，要同時識別行人、車輛、信號燈、路標等多種對象

 

 

神經網絡架構中的多任務學習（與softmax迴歸只檢測一種對象不同，多任務學習要同時檢測多種多種對象）

 

多任務學習的應用場合：

1. 所訓練的不同任務之間可以共享一些低層次的特徵
2. 各任務所需數據很相似
3. 可以訓練一個足夠大的神經網絡以同時很好地完成所有任務

 

 

2.9 什麼是端到端的深度學習？

數據量較大時，端對端的學習也能成功，而無需將任務分成很多中間過程

 

人臉識別可分成兩步執行：

1. 從圖像中識別出人臉
2. 識別人臉屬於誰的臉（當前人臉與數據庫中的人臉數據進行一一匹配）

 

其他示例

 

 

 

2.10 是否要使用端到端的深度學習？

端對端學習的優點與缺點：

1. 優點：讓數據說話；減少對手動設計的組件的依賴
2. 缺點：可能需要大量數據；沒有好好利用一些有用的手動設計的組件

 

端對端學習的應用：

1. 使用深度學習學習各個組件
2. 仔細選擇X->Y映射（端對端）所需的數據