def l2_norm(input, axit=1):
norm = torch.norm(input,2,axit,True)
output = torch.div(input, norm)
return output
# 這裏假設input.shape = (2, 10) 最後得到的結果是每一行得到的每個值平方和爲1
self.kernel.data.uniform_(-1, 1).renorm_(2, 1, 1e-5).mul_(1e5)
# 這行代碼假設開始self.kernel.shape = (3 , 10)最終得到的每一列所有元素平方和爲1
以上兩種norm方式做個簡單的筆記