学习总结

一、应用场景

栗子：​​torch.nn​​​只支持小批量处理 (mini-batches）。整个 ​​torch.nn​​​ 包只支持小批量样本的输入，不支持单个样本的输入。比如，​​nn.Conv2d​​​ 接受一个4维的张量，即​​nSamples x nChannels x Height x Width​​​，如果是一个单独的样本，只需要使用​​input.unsqueeze(0)​​ 来添加一个“假的”批大小维度。

PS：pytorch中，处理图片必须一个batch一个batch的操作，所以我们要准备的数据的格式是 ​​[batch_size, n_channels, hight, width]​​。

二、升维和降维

降维：​​squeeze(input, dim = None, out = None)​​​函数
（1）在不指定dim时，张量中形状为1的所有维都会除去。如input为（A, 1, B, 1, C, 1, D），output为（A, B, C, D）。

（2）如果要指定dim，降维操作只能在给定的维度上，如input为（A, 1, B）时：
错误用法：​​​squeeze(input, dim = 0)​​会发现shape没变化，如下：

d = torch.randn(4, 1, 3)
print("d：", d)
# 没有变化
d1 = torch.squeeze(d, dim = 0) # 还是[4, 1, 3]
print("d1和d1的shape:", d1, d1.shape)

# dim=1处维除去
d2 = torch.squeeze(d, dim = 1) # 变成torch.Size([4, 3])
print("d2和d2的shape:", d2, d2.shape)

结果为：

d： tensor([[[ 1.8679, -0.9913, -2.6257]],

        [[-0.1690, -0.9938,  1.1178]],

        [[-1.2449,  2.5249,  2.2579]],

        [[ 0.2890, -0.5222, -0.2853]]])
d1和d1的shape: tensor([[[ 1.8679, -0.9913, -2.6257]],

        [[-0.1690, -0.9938,  1.1178]],

        [[-1.2449,  2.5249,  2.2579]],

        [[ 0.2890, -0.5222, -0.2853]]]) torch.Size([4, 1, 3])
d2和d2的shape: tensor([[ 1.8679, -0.9913, -2.6257],
        [-0.1690, -0.9938,  1.1178],
        [-1.2449,  2.5249,  2.2579],
        [ 0.2890, -0.5222, -0.2853]]) torch.Size([4, 3])

​​torch.unsqueeze​​有两种写法：

# -*- coding: utf-8 -*-
"""
Created on Fri Nov 26 20:08:58 2021

@author: 86493
"""
import torch
a = torch.tensor([1, 2, 3, 4])
print("a的shape：", a.shape)

# 将a的第一维升高 
b = torch.unsqueeze(a, dim = 0)
# b = a.unsqueeze(dim = 0) # 和上面的写法等价 
print("b和b的shape：", b, b.shape)

# 对b降维，去掉所有形状中为1的维 
c = b.squeeze()
print("c和c的shape:", c, c.shape)

结果为如下，即对第一维度升高后，b从a =【4】变为b=【【1， 2， 3，4】】：

a的shape： torch.Size([4])
b和b的shape： tensor([[1, 2, 3, 4]]) torch.Size([1, 4])
c和c的shape: tensor([1, 2, 3, 4]) torch.Size([4])

Reference

​​https://zhuanlan.zhihu.com/p/86763381​​