涉及內容:
- 數據準備:在平面內構造兩類點
- 定義神經網絡結構
- 優化器和損失函數
- 訓練
- 模型保存和提取
效果展示:
代碼展示:
# coding=utf-8
import os
import sys
import torch
import torch.nn.functional as F # 拿到激勵函數
import matplotlib.pyplot as plt
# 數據準備,預處理
n_data = torch.ones(100, 2) # 100行2列
x0 = torch.normal(2 * n_data, 1) # 100行2列
y0 = torch.zeros(100) # 第一類 全0
x1 = torch.normal(-2 * n_data, 1)
y1 = torch.ones(100) # 第二類 全1
x = torch.cat((x0, x1), 0)
y = torch.cat((y0, y1), )
x = torch.Tensor(x)
y = torch.Tensor(y).long()
# print(y)
# 打印散點圖
# plt.scatter(x.data.numpy()[:, 0], x.data.numpy()[:, 1], c=y.data.numpy(), s=100, linewidths=0)
# plt.show()
# 定義神經網絡結構
class Net(torch.nn.Module):
def __init__(self, n_feature, n_hidden, n_output):
super().__init__()
self.hidden = torch.nn.Linear(n_feature, n_hidden) # layer
self.predict = torch.nn.Linear(n_hidden, n_output) # layer
def forward(self, x): # 前向計算
x = F.relu(self.hidden(x))
x = self.predict(x)
return x
net = Net(2, 6, 2) # 輸入2個特徵(座標),輸出也是2個特徵(標籤,獨熱編碼)
# # net 也可以定義如下:
# net = torch.nn.Sequential(
# torch.nn.Linear(2, 6),
# torch.nn.ReLU(),
# torch.nn.Linear(6, 2),
# )
print(net)
# 隨機梯度下降
omptimzer = torch.optim.SGD(net.parameters(), lr=0.01) # 網絡的所有參數,和學習率
loss_func = torch.nn.CrossEntropyLoss() # 交叉熵 輸出每個類型的概率,取最大的
# 可視化
plt.ion() # 設置可以實時顯示
plt.show()
# 訓練網絡,訓練1000次
for t in range(1000):
out = net(x)
loss = loss_func(out, y) # 誤差
omptimzer.zero_grad() # 先將所有參數的梯度每次置零
loss.backward() # 誤差反向傳播,計算所有節點的梯度
omptimzer.step() # 用上面的計算值,以學習率爲lr,來優化參數
if t % 50 == 0:
plt.cla()
prediction = torch.max(F.softmax(out), 1)[1] # 預測的標籤值
pred_y = prediction.data.numpy().squeeze()
target_y = y.data.numpy()
plt.scatter(x.data.numpy()[:, 0], x.data.numpy()[:, 1], c=pred_y, s=100, linewidths=0)
plt.pause(0.1)
print(f't:{t}, {loss.tolist()}') # 打印誤差
plt.ioff()
plt.show()
# 保存神經網絡
save_path = os.path.join(sys.path[0], "classification-modle.pth")
torch.save(net, save_path) # 方式一:保存整個神經網絡,結構和參數
# torch.save(net.state_dict(), save_path) # 方式二:只保留參數
# 提取網絡
# 方式一:
new_net = torch.load(save_path)
# # 方式二:
# new_net = Net()
# new_net.load_state_dict(torch.load(save_path))
參考莫煩pytorch教程:https://space.bilibili.com