【深度學習的數學】初始權重和偏置參數對模型訓練非常重要！（預訓練模型、預訓練文件、初始權重）

在進行 【深度學習的數學】接“2×3×1層帶sigmoid激活函數的神經網絡感知機對三角形平面的分類訓練預測”，輸出層加偏置b 的測試中，我們發現，模型的初始權重對模型的訓練結果是影響非常大的，

如圖對比了兩種不同的模型訓練結果，權重和偏置初始參數均採用正態分佈隨機值

• 情況1
  
  
  

• 情況2
  
  
  

• 情況3
  
  
  

可以看到，情況1最接近我們預期的結果，情況2和情況3就比較奇怪，所以，選擇一個好的初始權重和偏置是非常重要的！

接下來我們選擇情況1中我們比較好的權重和偏置作爲我們本次訓練的初始權重和偏置，運行程序，還是訓練600次，可以看到，結果並沒有發生太大的變化！

當我們把訓練次數改成10000次，情況有些不一樣了

儘管繪製的圖形看起來與之前相比，仍未有較大改變！！