Pytorch 學習筆記：layout=torch.strided 意味着什麼？理解 torch.layout

Pytorch 中 零矩陣的定義

torch.zeros(*sizes, out=None, 
			 dtype=None, 
			 layout=torch.strided, 
			 device=None, 
			 requires_grad=False)

可以看到默認layout=torch.strided，事實上，Pytorch 中很多函數都可以看到這個參數。

那麼，什麼是 layout？直接上官方 Documentation

右上角可以看到 torch.tensor 共有三種屬性，

其中，torch.dtype 是 tensor 的數據類型，torch.device 表明計算設備是 CPU 還是 GPU，torch.layout 表明內存佈局（memory layout），即 tensor 在物理設備中的儲存結構。學過數據結構的都知道儲存結構（物理結構）簡單可以分爲：順序儲存、鏈式儲存。

torch.layout 可選torch.stried或torch.sparse_coo。分別對應順序儲存、離散儲存。

一般說，稠密張量適用torch.stried，稀疏張量（0 比較多）適用torch.sparse_coo。

以上。