1.深度學習從生命的生物機理中獲得靈感，但是它與大腦的工作原理差別非常巨大。
2.描述深度學習：（1）學着描繪世界的機器（machines that learn to represent the word）；端對端的機器學習（end-to-end machine learning）。在一個能夠學習的機器中，每一個組件、每一個階段都能進行訓練。
3.可以把深度學習看成是，通過整合大量能夠基於相同方式訓練的模塊和組件來構建擁有學習能力的機器，如模式識別系統，因此，需要一個能夠訓練每個事物的單一原則。
4.深度學習系統和機器學習區別：之前的機器學習系統，可稱爲“膚淺的學習系統”，會受他們能計算的函數的複雜度的
限制，如果使用一個線性分類器的膚淺學習方法來識別圖像，需要從圖像中提取足夠多的參數特徵，但是手動設計一個特徵提取器非常困難，而且很耗時。如果使用一個更加靈活的分類器，如SVM，或者兩層神經網絡，直接將圖像的像素提供給分類器，則物體的識別率不會高。
5.模式識別系統可以想象成一個黑盒子，背面裝有攝像頭，頂上有一個紅燈和綠燈，前面有一串開關，比如一種嘗試調節開關的算法，當一條狗出現在攝像頭室控制開關使紅燈亮，當一輛車出現時控制開關使綠燈亮，爲了訓練該算法，將一條狗放在機器前，如果紅燈亮，則什麼都不做，如果光線模糊，則調節旋鈕使燈變亮，如果綠燈亮，則扭動按鈕使燈變暗；接下來換成汽車。如果進行多次嘗試，並且保持每次都對旋鈕進行逐漸微調，最終，機器每次都能得出正確答案。
6。將未加工的數據輸入系統，因爲系統具有多層結構，每一層都將知道如何對上一層產生的表徵進行轉化，知道最後一層輸出結果。從頭至尾都應該把學習融合進來，以便機器能夠學習到好的數據表徵。
7.直覺洞察、理論模型、實際執行、實證研究和科學分析之間相互影響，洞察力是一種創造性思維；模型基於數學，實際執行設計工程學和純粹的黑客行爲；實證研究和分析屬於實實在在的科學。
8.深度學習團體：Geoff Hinton、Yoshua Bengio和Lecun、Andrew NG
9.FaceBook的深度學習，facebook必須自動篩選100-150項用戶想看的或者需要看的內容，所以必須理解人們，包括口味、興趣、關係、需要甚至生活目標。也需要理解內容，知道帖子或者評論在講什麼，圖片和視頻把包含什麼內容。完成這項工作是一個“徹頭徹尾的人工智能”問題，這需要理解人、情緒、文化和藝術，大部分工作聚焦於指定新理論。新原則、新方法和新系統，以讓機器理解圖片、視頻和語言，隨後對其進行推理。