從簡單的經驗中獲取知識，不需要人類去設計、規範知識，因爲層次化的簡單概念可以讓計算機去學習，從而形成複雜的概念，如果用一張圖來表示就是一層一層，所以叫深度學習。
IBM深藍–1997年
知識基礎（knowledge base）–用公式來表述現實世界，現在還沒有成功案例。
機器學習（machine learning）–不同於知識基礎，機器學習需要從原始數據中發現模式（Pattern）
邏輯迴歸– 1990年 一種簡單的機器學習
樸素貝葉斯 另一種簡單的機器學習
他們都直接依賴於對原始問題的表述（representation），被稱爲特徵（feature）。它們的問題是嚴重依賴特徵。
解決方法是：表述學習（representation learning）
表述學習算法可以在幾分鐘內發現簡單任務的特徵，後者在幾小時內發現複雜任務的特徵。
表述學習算法例子：autoencoder，它通過encoder函數把輸入數據轉換一種表述，以獲得更佳的特徵，通過decoder函數轉換回原始數據。
發現特徵是機器學習的難點，深度學習靠用簡單的表述層疊來形成複雜的概念。
MLP：多層感知器
