深度學習的發展歷程（思維導圖、時間軸）

機器學習和深度學習的關係

事實上，很多PGM也可從神經網絡的方面來解釋。尤其是VAE，它可看做二類的混合模型。
當PGM的層太多時，學習和推斷都很難。因此，Deep learning往往偏向於指代Deep neural network。

從感知機到深度學習

目前所說的深度學習實際上多指2006年開始的一系列模型。
深度學習大火的原因：

1. 逐漸增加的數據量
2. 並行計算、分佈式系統的發展
3. 硬件GPU等的發展
4. 最重要的是，其效果好，優於之前大火的SVM

雖然目前深度學習的理論稍滯後，但其效果好呀~
未來說比對，SVM，PGM等會被引入到深度學習中呢?