基於並行遺傳算法優化的深度神經網絡模型

基於並行遺傳算法優化的深度神經網絡模型


       深度神經網絡的問題是訓練速度慢,容易梯度消失,剃度消失問題的存在,使得深度神經網絡的訓練變得極度困難,人們提出的cnn rnn lstm這些模型,就是爲了減少節點的數目,提高訓練速度,但這些模型主要侷限在圖像識別 自然語言理解這些領域,而人類社會的大多數問題,泛化的深度神經網絡很顯然是更貼切的模型



      用遺傳算法來訓練神經網絡的權值,很早就有了,但缺點是受以前計算機條件的限制,訓練速度太慢,當然了,用超算來訓練應該是可以的,不過現在有了gpu這個神器,集成幾千個gpu的芯片非常便宜,這樣,用並行遺傳算法來訓練深度神經網絡的權值成爲了可行的辦法


      遺傳算法和深度神經網絡這兩個最重要得人工智能算法本身都是天然分佈式和並行化的,本質上,腦神經的閥值正是億萬年遺傳進化變異優化的結果,因此,基於並行遺傳算法來優化深度神經網絡模型的權值,必然是未來的一個主要方向


發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章