最近剛開始接觸神經網絡代碼,不同的人有不同的編程習慣.身爲一個新人,看不同的代碼總是難於理解,後來發現每份代碼都大致分爲7部分,將代碼分爲7大塊後,再逐塊理解:
- Pytorch神經網絡的一般運行步驟(7步即可完成):
1\對數據進行處理,(1.1, resume:是否重新開始訓練/)
2\導入模型(2.1,使用多GPU)
3\配置優化器(優化器的常規input:3.1,網絡的全部參數:model.parameters()/3.2,學習率/3.3優化方法:momentum/3.4,權重衰減:weight_decay)
4\配置損失函數(4+, 對網絡參數的配置)
5\訓練:(5.1,數據to Tensor + net.train()/5.2, 得到scores/5.3, 得到損失/5.4,反向傳播:optimizer.zero_grad(),loss.backward(),optimizer.step()/5.5, 計算損失+精確度)
6\測試:(6.1,數據to Tensor + net.eval()/6.2, 得到scores/6.3, 得到損失/6.4, 計算損失+精確度)
7\保存訓練好的參數或者模型
