浅谈pytorch中stack和cat的及to_tensor的坑_Python

初入计算机视觉遇到的一些坑

1.pytorch中转tensor

				?

									x=np.random.randint(10,100,(10,10,10))

									x=TF.to_tensor(x)

									print(x)

这个函数会对输入数据进行自动归一化，比如有时候我们需要将0-255的图片转为numpy类型的数据，则会自动转为0-1之间

2.stack和cat之间的差别

stack

				?

									x=torch.randn((1,2,3))

									y=torch.randn((1,2,3))

									z=torch.stack((x,y))#默认dim=0

									print(z.shape)

									#torch.Size([2, 1, 2, 3])

所以stack的之后的数据也就很好理解了，z[0,...]的数据是x，z[1,...]的数据是y。

cat

				?

									z=torch.cat((x,y))

									print(z.size())

									#torch.Size([2, 2, 3])

cat之后的数据 z[0,:,:]是x的值，z[1,:,:]是y的值。

其中最关键的是stack之后的数据的size会多出一个维度，而cat则不会，有一个很简单的例子来说明一下，比如要训练一个检测模型，label是一些标记点，eg：[x1,y1,x2,y2]

送入网络的加上batchsize则时Size:[batchsize,4]，如果我已经有了两堆数据,data1:Size[128,4],data2:Size[128,4]，需要将这两个数据合在一起的话目标data:Size[256,4]。

显然我们要做的是：torch.cat((data1,data2))

如果我们的数据是这样：有100个label，每一个label被放进一个list(data)中,[[x1,y1,x2,y2],[x1,y1,x2,y2],...]其中data是一个list长度为100,而list中每一个元素是张图片的标签，size为[4]我们需要将他们合一起成为一Size:[100,4]的的数据。

显然我们要做的是torch.stack(data)。而且torch.stack的输入参数为list类型！

补充：pytorch中的cat、stack、tranpose、permute、unsqeeze

pytorch中提供了对tensor常用的变换操作。

cat 连接

对数据沿着某一维度进行拼接。cat后数据的总维数不变。

比如下面代码对两个2维tensor（分别为2*3,1*3）进行拼接，拼接完后变为3*3还是2维的tensor。

代码如下：

				?

									import torch

									torch.manual_seed(1)

									x = torch.randn(2,3)

									y = torch.randn(1,3)

									print(x,y)

结果：

0.6614 0.2669 0.0617
0.6213 -0.4519 -0.1661
[torch.FloatTensor of size 2x3]

-1.5228 0.3817 -1.0276
[torch.FloatTensor of size 1x3]

将两个tensor拼在一起：

				?

									torch.cat((x,y),0)

结果：

0.6614 0.2669 0.0617
0.6213 -0.4519 -0.1661
-1.5228 0.3817 -1.0276
[torch.FloatTensor of size 3x3]

更灵活的拼法：

				?

									torch.manual_seed(1)

									x = torch.randn(2,3)

									print(x)

									print(torch.cat((x,x),0))

									print(torch.cat((x,x),1))

结果

// x
0.6614 0.2669 0.0617
0.6213 -0.4519 -0.1661
[torch.FloatTensor of size 2x3]

// torch.cat((x,x),0)
0.6614 0.2669 0.0617
0.6213 -0.4519 -0.1661
0.6614 0.2669 0.0617
0.6213 -0.4519 -0.1661
[torch.FloatTensor of size 4x3]

// torch.cat((x,x),1)
0.6614 0.2669 0.0617 0.6614 0.2669 0.0617
0.6213 -0.4519 -0.1661 0.6213 -0.4519 -0.1661
[torch.FloatTensor of size 2x6]

stack，增加新的维度进行堆叠

而stack则会增加新的维度。

如对两个1*2维的tensor在第0个维度上stack，则会变为2*1*2的tensor；在第1个维度上stack，则会变为1*2*2的tensor。

见代码：

				?

									a = torch.ones([1,2])

									b = torch.ones([1,2])

									c= torch.stack([a,b],0) // 第0个维度stack

输出：

(0 ,.,.) =
1 1

(1 ,.,.) =
1 1
[torch.FloatTensor of size 2x1x2]

				?

									c= torch.stack([a,b],1) // 第1个维度stack

输出：

(0 ,.,.) =

1 1

1 1

[torch.FloatTensor of size 1x2x2]

transpose ，两个维度互换

代码如下：

				?

									torch.manual_seed(1)

									x = torch.randn(2,3)

									print(x)

原来x的结果：

0.6614 0.2669 0.0617

0.6213 -0.4519 -0.1661

[torch.FloatTensor of size 2x3]

将x的维度互换

				?

									x.transpose(0,1)

结果

0.6614 0.6213

0.2669 -0.4519

0.0617 -0.1661

[torch.FloatTensor of size 3x2]

permute，多个维度互换，更灵活的transpose

permute是更灵活的transpose，可以灵活的对原数据的维度进行调换，而数据本身不变。

代码如下：

				?

									x = torch.randn(2,3,4)

									print(x.size())

									x_p = x.permute(1,0,2) # 将原来第1维变为0维，同理，0→1,2→2

									print(x_p.size())

结果：

torch.Size([2, 3, 4])

torch.Size([3, 2, 4])

squeeze 和 unsqueeze

常用来增加或减少维度,如没有batch维度时，增加batch维度为1。

squeeze(dim_n)压缩，减少dim_n维度，即去掉元素数量为1的dim_n维度。

unsqueeze(dim_n)，增加dim_n维度，元素数量为1。

上代码：

				?

									# 定义张量

									import torch

									b = torch.Tensor(2,1)

									b.shape

									Out[28]: torch.Size([2, 1])

									# 不加参数，去掉所有为元素个数为1的维度

									b_ = b.squeeze()

									b_.shape

									Out[30]: torch.Size([2])

									# 加上参数，去掉第一维的元素为1，不起作用，因为第一维有2个元素

									b_ = b.squeeze(0)

									b_.shape 

									Out[32]: torch.Size([2, 1])

									# 这样就可以了

									b_ = b.squeeze(1)

									b_.shape

									Out[34]: torch.Size([2])

									# 增加一个维度

									b_ = b.unsqueeze(2)

									b_.shape

									Out[36]: torch.Size([2, 1, 1])