pytorch-卷积神经网络基础

卷积神经网络基础

本节我们介绍卷积神经网络的基础概念，主要是卷积层和池化层，并解释填充、步幅、输入通道和输出通道的含义。

二维卷积层

本节介绍的是最常见的二维卷积层，常用于处理图像数据。

二维互相关运算

二维互相关（cross-correlation）运算的输入是一个二维输入数组和一个二维核（kernel）数组，输出也是一个二维数组，其中核数组通常称为卷积核或过滤器（filter）。卷积核的尺寸通常小于输入数组，卷积核在输入数组上滑动，在每个位置上，卷积核与该位置处的输入子数组按元素相乘并求和，得到输出数组中相应位置的元素。图1展示了一个互相关运算的例子，阴影部分分别是输入的第一个计算区域、核数组以及对应的输出。

图1 二维互相关运算

下面我们用corr2d函数实现二维互相关运算，它接受输入数组X与核数组K，并输出数组Y。

import torch import torch.nn as nn def corr2d(X, K): # 这里的corr2d是二维互运算 # x是二维数组,也就是需要卷积的数组 # k是卷积和 H, W = X.shape h, w = K.shape Y = torch.zeros(H - h + 1, W - w + 1) for i in range(Y.shape[0]): for j in range(Y.shape[1]): Y[i, j] = (X[i: i + h, j: j + w] * K).sum() return Y

构造上图中的输入数组X、核数组K来验证二维互相关运算的输出。

X = torch.tensor([[0, 1, 2], [3, 4, 5], [6, 7, 8]]) K = torch.tensor([[0, 1], [2, 3]]) Y = corr2d(X, K) print(Y) # 符合计算结果 tensor([[19., 25.], [37., 43.]]) 二维卷积层

二维卷积层将输入和卷积核做互相关运算，并加上一个标量偏置来得到输出。卷积层的模型参数包括卷积核和标量偏置。

class Conv2D(nn.Module):# 默认继承 def __init__(self, kernel_size): super(Conv2D, self).__init__() self.weight = nn.Parameter(torch.randn(kernel_size))# 卷积核 self.bias = nn.Parameter(torch.randn(1)) # print(self.bias)给每个维度都加上偏执 def forward(self, x): # print(corr2d(x, self.weight),1) # print(corr2d(x, self.weight) + self.bias,2) return corr2d(x, self.weight) + self.bias# 卷积之后加上偏执

下面我们看一个例子，我们构造一张6×86 \times 86×8的图像，中间4列为黑（0），其余为白（1），希望检测到颜色边缘。我们的标签是一个6×76 \times 76×7的二维数组，第2列是1（从1到0的边缘），第6列是-1（从0到1的边缘）。

X = torch.ones(6, 8) Y = torch.zeros(6, 7) X[:, 2: 6] = 0 Y[:, 1] = 1 Y[:, 5] = -1 print(X) print(Y) tensor([[1., 1., 0., 0., 0., 0., 1., 1.], [1., 1., 0., 0., 0., 0., 1., 1.], [1., 1., 0., 0., 0., 0., 1., 1.], [1., 1., 0., 0., 0., 0., 1., 1.], [1., 1., 0., 0., 0., 0., 1., 1.], [1., 1., 0., 0., 0., 0., 1., 1.]]) tensor([[ 0., 1., 0., 0., 0., -1., 0.], [ 0., 1., 0., 0., 0., -1., 0.], [ 0., 1., 0., 0., 0., -1., 0.], [ 0., 1., 0., 0., 0., -1., 0.], [ 0., 1., 0., 0., 0., -1., 0.], [ 0., 1., 0., 0., 0., -1., 0.]])

我们希望学习一个1×21 \times 21×2卷积层，通过卷积层来检测颜色边缘。

# 为什么是1*2?因为我们进行颜色边缘检测的时候我们使用的是相邻两列的卷积 conv2d = Conv2D(kernel_size=(1, 2))# 卷积核大小1*2 step = 30 lr = 0.01 for i in range(step): Y_hat = conv2d(X)#计算结果 l = ((Y_hat - Y) ** 2).sum()# mse损失函数,但是没有除以2 l.backward() # 梯度下降 conv2d.weight.data -= lr * conv2d.weight.grad conv2d.bias.data -= lr * conv2d.bias.grad # 梯度清零 conv2d.weight.grad.zero_() conv2d.bias.grad.zero_() if (i + 1) % 5 == 0: print('Step %d, loss %.3f' % (i + 1, l.item())) print(conv2d.weight.data) print(conv2d.bias.data) Step 5, loss 4.371 Step 10, loss 1.151 Step 15, loss 0.313 Step 20, loss 0.086 Step 25, loss 0.024 Step 30, loss 0.007 tensor([[ 0.9796, -0.9789]]) tensor([-0.0004]) 互相关运算与卷积运算

卷积层得名于卷积运算，但卷积层中用到的并非卷积运算而是互相关运算。我们将核数组上下翻转、左右翻转，再与输入数组做互相关运算，这一过程就是卷积运算。由于卷积层的核数组是可学习的，所以使用互相关运算与使用卷积运算并无本质区别。

特征图与感受野

二维卷积层输出的二维数组可以看作是输入在空间维度（宽和高）上某一级的表征，也叫特征图（feature map）。影响元素xxx的前向计算的所有可能输入区域（可能大于输入的实际尺寸）叫做xxx的感受野（receptive field）。

以图1为例，输入中阴影部分的四个元素是输出中阴影部分元素的感受野。我们将图中形状为2×22 \times 22×2的输出记为YYY，将YYY与另一个形状为2×22 \times 22×2的核数组做互相关运算，输出单个元素zzz。那么，zzz在YYY上的感受野包括YYY的全部四个元素，在输入上的感受野包括其中全部9个元素。可见，我们可以通过更深的卷积神经网络使特征图中单个元素的感受野变得更加广阔，从而捕捉输入上更大尺寸的特征。

填充和步幅

我们介绍卷积层的两个超参数，即填充和步幅，它们可以对给定形状的输入和卷积核改变输出形状。

填充

填充（padding）是指在输入高和宽的两侧填充元素（通常是0元素），图2里我们在原输入高和宽的两侧分别添加了值为0的元素。

图2 在输入的高和宽两侧分别填充了0元素的二维互相关计算

如果原输入的高和宽是nhn_hnh​和nwn_wnw​，卷积核的高和宽是khk_hkh​和kwk_wkw​，在高的两侧一共填充php_hph​行，在宽的两侧一共填充pwp_wpw​列，则输出形状为：

(nh+ph−kh+1)×(nw+pw−kw+1) (n_h+p_h-k_h+1)\times(n_w+p_w-k_w+1) (nh​+ph​−kh​+1)×(nw​+pw​−kw​+1)

我们在卷积神经网络中使用奇数高宽的核，比如3×33 \times 33×3，5×55 \times 55×5的卷积核，对于高度（或宽度）为大小为2k+12 k + 12k+1的核，令步幅为1，在高（或宽）两侧选择大小为kkk的填充，便可保持输入与输出尺寸相同。

步幅

在互相关运算中，卷积核在输入数组上滑动，每次滑动的行数与列数即是步幅（stride）。此前我们使用的步幅都是1，图3展示了在高上步幅为3、在宽上步幅为2的二维互相关运算。

图3 高和宽上步幅分别为3和2的二维互相关运算

一般来说，当高上步幅为shs_hsh​，宽上步幅为sws_wsw​时，输出形状为：

⌊(nh+ph−kh+sh)/sh⌋×⌊(nw+pw−kw+sw)/sw⌋ \lfloor(n_h+p_h-k_h+s_h)/s_h\rfloor \times \lfloor(n_w+p_w-k_w+s_w)/s_w\rfloor ⌊(nh​+ph​−kh​+sh​)/sh​⌋×⌊(nw​+pw​−kw​+sw​)/sw​⌋

如果ph=kh−1p_h=k_h-1ph​=kh​−1，pw=kw−1p_w=k_w-1pw​=kw​−1，那么输出形状将简化为⌊(nh+sh−1)/sh⌋×⌊(nw+sw−1)/sw⌋\lfloor(n_h+s_h-1)/s_h\rfloor \times \lfloor(n_w+s_w-1)/s_w\rfloor⌊(nh​+sh​−1)/sh​⌋×⌊(nw​+sw​−1)/sw​⌋。更进一步，如果输入的高和宽能分别被高和宽上的步幅整除，那么输出形状将是(nh/sh)×(nw/sw)(n_h / s_h) \times (n_w/s_w)(nh​/sh​)×(nw​/sw​)。

当ph=pw=pp_h = p_w = pph​=pw​=p时，我们称填充为ppp；当sh=sw=ss_h = s_w = ssh​=sw​=s时，我们称步幅为sss。

多输入通道和多输出通道

之前的输入和输出都是二维数组，但真实数据的维度经常更高。例如，彩色图像在高和宽2个维度外还有RGB（红、绿、蓝）3个颜色通道。假设彩色图像的高和宽分别是hhh和www（像素），那么它可以表示为一个3×h×w3 \times h \times w3×h×w的多维数组，我们将大小为3的这一维称为通道（channel）维。

多输入通道

卷积层的输入可以包含多个通道，图4展示了一个含2个输入通道的二维互相关计算的例子。

图4 含2个输入通道的互相关计算

假设输入数据的通道数为cic_ici​，卷积核形状为kh×kwk_h\times k_wkh​×kw​，我们为每个输入通道各分配一个形状为kh×kwk_h\times k_wkh​×kw​的核数组，将cic_ici​个互相关运算的二维输出按通道相加，得到一个二维数组作为输出。我们把cic_ici​个核数组在通道维上连结，即得到一个形状为ci×kh×kwc_i\times k_h\times k_wci​×kh​×kw​的卷积核。

X = torch.tensor([[1, 2, 3], [4, 5, 6], [7, 8, 9]]) K = torch.tensor([[1, 2], [3, 4]]) Y = corr2d(X, K) print(Y) # 符合计算结果 tensor([[37., 47.], [67., 77.]]) 多输出通道

卷积层的输出也可以包含多个通道，设卷积核输入通道数和输出通道数分别为cic_ici​和coc_oco​，高和宽分别为khk_hkh​和kwk_wkw​。如果希望得到含多个通道的输出，我们可以为每个输出通道分别创建形状为ci×kh×kwc_i\times k_h\times k_wci​×kh​×kw​的核数组，将它们在输出通道维上连结，卷积核的形状即co×ci×kh×kwc_o\times c_i\times k_h\times k_wco​×ci​×kh​×kw​。

对于输出通道的卷积核，我们提供这样一种理解，一个ci×kh×kwc_i \times k_h \times k_wci​×kh​×kw​的核数组可以提取某种局部特征，但是输入可能具有相当丰富的特征，我们需要有多个这样的ci×kh×kwc_i \times k_h \times k_wci​×kh​×kw​的核数组，不同的核数组提取的是不同的特征。

1x1卷积层

最后讨论形状为1×11 \times 11×1的卷积核，我们通常称这样的卷积运算为1×11 \times 11×1卷积，称包含这种卷积核的卷积层为1×11 \times 11×1卷积层。图5展示了使用输入通道数为3、输出通道数为2的1×11\times 11×1卷积核的互相关计算,按通道数

图5 1x1卷积核的互相关计算。输入和输出具有相同的高和宽

1×11 \times 11×1卷积核可在不改变高宽的情况下，调整通道数。1×11 \times 11×1卷积核不识别高和宽维度上相邻元素构成的模式，其主要计算发生在通道维上。假设我们将通道维当作特征维，将高和宽维度上的元素当成数据样本，那么1×11\times 11×1卷积层的作用与全连接层等价。

卷积层与全连接层的对比

二维卷积层经常用于处理图像，与此前的全连接层相比，它主要有两个优势：

一是全连接层把图像展平成一个向量，在输入图像上相邻的元素可能因为展平操作不再相邻，网络难以捕捉局部信息。而卷积层的设计，天然地具有提取局部信息的能力。

二是卷积层的参数量更少。不考虑偏置的情况下，一个形状为(ci,co,h,w)(c_i, c_o, h, w)(ci​,co​,h,w)的卷积核的参数量是ci×co×h×wc_i \times c_o \times h \times wci​×co​×h×w，与输入图像的宽高无关。假如一个卷积层的输入和输出形状分别是(c1,h1,w1)(c_1, h_1, w_1)(c1​,h1​,w1​)和(c2,h2,w2)(c_2, h_2, w_2)(c2​,h2​,w2​)，如果要用全连接层进行连接，参数数量就是c1×c2×h1×w1×h2×w2c_1 \times c_2 \times h_1 \times w_1 \times h_2 \times w_2c1​×c2​×h1​×w1​×h2​×w2​。使用卷积层可以以较少的参数数量来处理更大的图像。

卷积层的简洁实现

我们使用Pytorch中的nn.Conv2d类来实现二维卷积层，主要关注以下几个构造函数参数：

in_channels (python:int) – Number of channels in the input imag out_channels (python:int) – Number of channels produced by the convolution kernel_size (python:int or tuple) – Size of the convolving kernel stride (python:int or tuple, optional) – Stride of the convolution. Default: 1 padding (python:int or tuple, optional) – Zero-padding added to both sides of the input. Default: 0 bias (bool, optional) – If True, adds a learnable bias to the output. Default: True

forward函数的参数为一个四维张量，形状为(N,Cin,Hin,Win)(N, C_{in}, H_{in}, W_{in})(N,Cin​,Hin​,Win​)，返回值也是一个四维张量，形状为(N,Cout,Hout,Wout)(N, C_{out}, H_{out}, W_{out})(N,Cout​,Hout​,Wout​)，其中NNN是批量大小，C,H,WC, H, WC,H,W分别表示通道数、高度、宽度。
in_channels(int) – 输入信号的通道
out_channels(int) – 卷积产生的通道
kerner_size(int or tuple) - 卷积核的尺寸
stride(int or tuple, optional) - 卷积步长
padding(int or tuple, optional) - 输入的每一条边补充0的层数
dilation(int or tuple, optional) – 卷积核元素之间的间距
groups(int, optional) – 从输入通道到输出通道的阻塞连接数
bias(bool, optional) - 如果bias=True，添加偏置

代码讲解

⌊(nh+ph−kh+sh)/sh⌋×⌊(nw+pw−kw+sw)/sw⌋ \lfloor(n_h+p_h-k_h+s_h)/s_h\rfloor \times \lfloor(n_w+p_w-k_w+s_w)/s_w\rfloor ⌊(nh​+ph​−kh​+sh​)/sh​⌋×⌊(nw​+pw​−kw​+sw​)/sw​⌋

X = torch.rand(4, 2, 3, 5) print(X.shape) conv2d = nn.Conv2d(in_channels=2, out_channels=3, kernel_size=(3, 5), stride=1, padding=(1, 2)) # weight(tensor) - 卷积的权重，大小是(out_channels, in_channels,kernel_size) 输出通道,输入通道,kernel_size # bias(tensor) - 卷积的偏置系数，大小是（out_channel） Y = conv2d(X) print('Y.shape: ', Y.shape) print('weight.shape: ', conv2d.weight.shape) print('bias.shape: ', conv2d.bias.shape)# 这里的偏置的维度是1*output_channels torch.Size([4, 2, 3, 5]) Y.shape: torch.Size([4, 3, 3, 5]) weight.shape: torch.Size([3, 2, 3, 5]) bias.shape: torch.Size([3]) 池化 二维池化层

池化层主要用于缓解卷积层对位置的过度敏感性。同卷积层一样，池化层每次对输入数据的一个固定形状窗口（又称池化窗口）中的元素计算输出，池化层直接计算池化窗口内元素的最大值或者平均值，该运算也分别叫做最大池化或平均池化。图6展示了池化窗口形状为2×22\times 22×2的最大池化。

图6 池化窗口形状为 2 x 2 的最大池化

二维平均池化的工作原理与二维最大池化类似，但将最大运算符替换成平均运算符。池化窗口形状为p×qp \times qp×q的池化层称为p×qp \times qp×q池化层，其中的池化运算叫作p×qp \times qp×q池化。

池化层也可以在输入的高和宽两侧填充并调整窗口的移动步幅来改变输出形状。池化层填充和步幅与卷积层填充和步幅的工作机制一样。

在处理多通道输入数据时，池化层对每个输入通道分别池化，但不会像卷积层那样将各通道的结果按通道相加。这意味着池化层的输出通道数与输入通道数相等。

池化层的简洁实现

我们使用Pytorch中的nn.MaxPool2d实现最大池化层，关注以下构造函数参数：

kernel_size – the size of the window to take a max over stride – the stride of the window. Default value is kernel_size padding – implicit zero padding to be added on both sides

forward函数的参数为一个四维张量，形状为(N,C,Hin,Win)(N, C, H_{in}, W_{in})(N,C,Hin​,Win​)，返回值也是一个四维张量，形状为(N,C,Hout,Wout)(N, C, H_{out}, W_{out})(N,C,Hout​,Wout​)，其中NNN是批量大小，C,H,WC, H, WC,H,W分别表示通道数、高度、宽度。

代码讲解

X = torch.arange(32, dtype=torch.float32).view(1, 2, 4, 4) pool2d = nn.MaxPool2d(kernel_size=3, padding=1, stride=(2, 1)) # stride移动步长,列到行 Y = pool2d(X) print(X) print(Y) print(Y.shape) tensor([[[[ 0., 1., 2., 3.], [ 4., 5., 6., 7.], [ 8., 9., 10., 11.], [12., 13., 14., 15.]], [[16., 17., 18., 19.], [20., 21., 22., 23.], [24., 25., 26., 27.], [28., 29., 30., 31.]]]]) tensor([[[[ 5., 6., 7., 7.], [13., 14., 15., 15.]], [[21., 22., 23., 23.], [29., 30., 31., 31.]]]]) torch.Size([1, 2, 2, 4])

平均池化层使用的是nn.AvgPool2d，使用方法与nn.MaxPool2d相同。

总结(https://www.cnblogs.com/LittleHann/p/6792511.html) padding的参数是填充数,由行到列 stride的参数是上下步幅 卷积其实就是将许多部分的信息进行压缩，在过大维度矩阵的情况下，因为存在过多的信息，第一是为运算上带来了很多麻烦，第二是类似拿着显微镜看一幅画，难以捕捉其整体的信息。通过互相关运算将画拿远，慢慢感受他整体的信息。所以应该在卷积神经网络中把大矩阵缩小多少次，缩小到什么程度应该是个相当关键的问题。只有在能看清具体信息但又能把握整体信息的情况下，才能得到对图像更清楚地把握。 通过感受野这个概念能发现，经过互相关运算或者卷积运算之后的矩阵，应该每个位置都综合了之前感受野中的信息，所以某种意义上其实它们就是这个图片的特征。 第三个问题在 padding上，通过讲解大概理解是，padding的作用有1、保护边缘信息。2、控制输入输出维数相同。3、类似语言模型中对不满足规定大小的图片的补充。 第四个问题是步幅，我认为的步幅的作用是避免图像中间的信息过于频繁的被利用从而对图像中间信息关注过高，同时也是减小运算复杂程度的方法 kernel_size（即卷积核大小）这是需要人为设定的参数，该参数是不需要学习的，当然大小不同，卷积结果也是不同的。经过大量实验表明，大多选用11、33、5*5等尺寸较小且长宽为奇数的卷积核。 对于卷积核内的数值（可以认为是对应卷积作用区域下像素值的权重大小），这个数值是需要学习。当给定kernel_size时，函数即会初始化该卷积核内的数值 通过观察互相关运算可知，输入数据（这里以二维数组为例）的边缘部分相较于中间部分来说，使用的次数较少，对于一些存储重要信息的边缘数据来说，这无疑是重大的损失，这里可以通过填充来解决这一问题吗？？也就是在输入数据的边缘填充0，使得原来的边缘数据中心化？？:使用samepadding就是为了不浪费边缘特征,最大可能的提取边缘信息
①对于修改tensor的数值，但是又不希望被autograd记录（即不会影响反向传播），那么我么可以对tensor.data进行操作。
②对于被torch.no_grad():包裹的tensor，在反向传播的过程中，其梯度是不会回传的
作者：胖虎艾春辉

网络基础 pytorch 卷积神经网络 神经网络 卷积