AI之卷积神经网络基础
本文主要介绍卷积神经网络的基础概念，主要是卷积层和池化层，并解释填充、步幅、输入通道和输出通道的含义。 二维卷积层
本文介绍的是最常见的二维卷积层，常用于处理图像数据。
二维互相关运算 二维互相关（cross-correlation）运算的输入是一个二维输入数组和一个二维核（kernel）数组，输出也是一个二维数组，其中核数组通常称为卷积核或过滤器（filter）。卷积核的尺寸通常小于输入数组，卷积核在输入数组上滑动，在每个位置上，卷积核与该位置处的输入子数组按元素相乘并求和，得到输出数组中相应位置的元素。下图展示了一个互相关运算的例子，阴影部分分别是输入的第一个计算区域、核数组以及对应的输出。
下面我们用corr2d函数实现二维互相关运算，它接受输入数组X与核数组K，并输出数组Y。
import torch
import torch.nn as nn
def corr2d(X, K):
H, W = X.shape
h, w = K.shape
Y = torch.zeros(H - h + 1, W - w + 1)
for i in range(Y.shape[0]):
for j in range(Y.shape[1]):
Y[i, j] = (X[i: i + h, j: j + w] * K).sum()
return Y
构造上图中的输入数组X、核数组K来验证二维互相关运算的输出。
X = torch.tensor([[0, 1, 2], [3, 4, 5], [6, 7, 8]])
K = torch.tensor([[0, 1], [2, 3]])
Y = corr2d(X, K)
print(Y)
二维卷积层
二维卷积层将输入和卷积核做互相关运算，并加上一个标量偏置来得到输出。卷积层的模型参数包括卷积核和标量偏置。
class Conv2D(nn.Module):
def __init__(self, kernel_size):
super(Conv2D, self).__init__()
self.weight = nn.Parameter(torch.randn(kernel_size))
self.bias = nn.Parameter(torch.randn(1))
def forward(self, x):
return corr2d(x, self.weight) + self.bias
下面我们看一个例子，我们构造一张6×8的图像，中间4列为黑（0），其余为白（1），希望检测到颜色边缘。我们的标签是一个6×7的二维数组，第2列是1（从1到0的边缘），第6列是-1（从0到1的边缘）。
X = torch.ones(6, 8)
Y = torch.zeros(6, 7)
X[:, 2: 6] = 0
Y[:, 1] = 1
Y[:, 5] = -1
print(X)
print(Y)
希望学习一个1×2卷积层，通过卷积层来检测颜色边缘。
conv2d = Conv2D(kernel_size=(1, 2))
step = 30
lr = 0.01
for i in range(step):
Y_hat = conv2d(X)
l = ((Y_hat - Y) ** 2).sum()
l.backward()
# 梯度下降
conv2d.weight.data -= lr * conv2d.weight.grad
conv2d.bias.data -= lr * conv2d.bias.grad
# 梯度清零
conv2d.weight.grad.zero_()
conv2d.bias.grad.zero_()
if (i + 1) % 5 == 0:
print('Step %d, loss %.3f' % (i + 1, l.item()))
print(conv2d.weight.data)
print(conv2d.bias.data)
互相关运算与卷积运算
卷积层得名于卷积运算，但卷积层中用到的并非卷积运算而是互相关运算。我们将核数组上下翻转、左右翻转，再与输入数组做互相关运算，这一过程就是卷积运算。由于卷积层的核数组是可学习的，所以使用互相关运算与使用卷积运算并无本质区别。
特征图与感受野 二维卷积层输出的二维数组可以看作是输入在空间维度（宽和高）上某一级的表征，也叫特征图（feature map）。影响元素x的前向计算的所有可能输入区域（可能大于输入的实际尺寸）叫做x的感受野（receptive field）。
以上图为例，输入中阴影部分的四个元素是输出中阴影部分元素的感受野。将图中形状为2×2的输出记为Y，将Y与另一个形状为2×2的核数组做互相关运算，输出单个元素z。那么，z在Y上的感受野包括Y的全部四个元素，在输入上的感受野包括其中全部9个元素。可见，我们可以通过更深的卷积神经网络使特征图中单个元素的感受野变得更加广阔，从而捕捉输入上更大尺寸的特征。
继续介绍卷积层的两个超参数，即填充和步幅，它们可以对给定形状的输入和卷积核改变输出形状。
填充填充（padding）是指在输入高和宽的两侧填充元素（通常是0元素），图2里我们在原输入高和宽的两侧分别添加了值为0的元素。
如果原输入的高和宽是nhn_hnh和nwn_wnw，卷积核的高和宽是khk_hkh和kwk_wkw，在高的两侧一共填充php_hph行，在宽的两侧一共填充pwp_wpw列，则输出形状为：
(nh+ph−kh+1)×(nw+pw−kw+1)(n_h+p_h−k_h+1)×(n_w+p_w−k_w+1)(nh+ph−kh+1)×(nw+pw−kw+1)
在卷积神经网络中使用奇数高宽的核，比如3×3，5×5的卷积核，对于高度（或宽度）为大小为2k+1的核，令步幅为1，在高（或宽）两侧选择大小为k的填充，便可保持输入与输出尺寸相同。
在互相关运算中，卷积核在输入数组上滑动，每次滑动的行数与列数即是步幅（stride）。此前我们使用的步幅都是1，下图展示了在高上步幅为3、在宽上步幅为2的二维互相关运算。
一般来说，当高上步幅为shs_hsh，宽上步幅为sws_wsw时，输出形状为：
⌊(nh+ph−kh+sh)/sh⌋×⌊(nw+pw−kw+sw)/sw⌋⌊(n_h+p_h−k_h+s_h)/s_h⌋×⌊(n_w+p_w−k_w+s_w)/s_w⌋⌊(nh+ph−kh+sh)/sh⌋×⌊(nw+pw−kw+sw)/sw⌋
如果ph=kh−1，pw=kw−1p_h=k_h−1，p_w=k_w−1ph=kh−1，pw=kw−1，那么输出形状将简化为⌊(nh+sh−1)/sh⌋×⌊(nw+sw−1)/sw⌋⌊(n_h+s_h−1)/s_h⌋×⌊(n_w+s_w−1)/s_w⌋⌊(nh+sh−1)/sh⌋×⌊(nw+sw−1)/sw⌋。更进一步，如果输入的高和宽能分别被高和宽上的步幅整除，那么输出形状将是(nh/sh)×(nw/sw)(n_h/s_h)×(n_w/s_w)(nh/sh)×(nw/sw)。
当p_h=p_w=p时，我们称填充为p；当s_h=s_w=s时，我们称步幅为s。
之前的输入和输出都是二维数组，但真实数据的维度经常更高。例如，彩色图像在高和宽2个维度外还有RGB（红、绿、蓝）3个颜色通道。假设彩色图像的高和宽分别是h和w（像素），那么它可以表示为一个3×h×w的多维数组，我们将大小为3的这一维称为通道（channel）维。
多输入通道 卷积层的输入可以包含多个通道，下图展示了一个含2个输入通道的二维互相关计算的例子。
假设输入数据的通道数为cic_ici，卷积核形状为kh×kwk_h×k_wkh×kw，我们为每个输入通道各分配一个形状为kh×kwk_h×k_wkh×kw的核数组，将cic_ici个互相关运算的二维输出按通道相加，得到一个二维数组作为输出。我们把cic_ici个核数组在通道维上连结，即得到一个形状为ci×kh×kwc_i×k_h×k_wci×kh×kw的卷积核。
卷积层的输出也可以包含多个通道，设卷积核输入通道数和输出通道数分别为cic_ici和coc_oco，高和宽分别为khk_hkh和kwk_wkw。如果希望得到含多个通道的输出，可以为每个输出通道分别创建形状为ci×kh×kwc_i×k_h×k_wci×kh×kw的核数组，将它们在输出通道维上连结，卷积核的形状即co×ci×kh×kwc_o×c_i×k_h×k_wco×ci×kh×kw。
对于输出通道的卷积核，提供这样一种理解，一个ci×kh×kwc_i×k_h×k_wci×kh×kw的核数组可以提取某种局部特征，但是输入可能具有相当丰富的特征，我们需要有多个这样的ci×kh×kwc_i×k_h×k_wci×kh×kw的核数组，不同的核数组提取的是不同的特征。
最后讨论形状为1×1的卷积核，我们通常称这样的卷积运算为1×1卷积，称包含这种卷积核的卷积层为1×1卷积层。下图展示了使用输入通道数为3、输出通道数为2的1×1卷积核的互相关计算。
输入和输出具有相同的高和宽，1×1卷积核可在不改变高宽的情况下，调整通道数。1×1卷积核不识别高和宽维度上相邻元素构成的模式，其主要计算发生在通道维上。假设我们将通道维当作特征维，将高和宽维度上的元素当成数据样本，那么1×1卷积层的作用与全连接层等价。
二维卷积层经常用于处理图像，与此前的全连接层相比，它主要有两个优势：
一是全连接层把图像展平成一个向量，在输入图像上相邻的元素可能因为展平操作不再相邻，网络难以捕捉局部信息。而卷积层的设计，天然地具有提取局部信息的能力。
二是卷积层的参数量更少。不考虑偏置的情况下，一个形状为(ci,co,h,w)(c_i,c_o,h,w)(ci,co,h,w)的卷积核的参数量是ci×co×h×wc_i×c_o×h×wci×co×h×w，与输入图像的宽高无关。假如一个卷积层的输入和输出形状分别是(c1,h1,w1)(c_1,h_1,w_1)(c1,h1,w1)和(c2,h2,w2)(c_2,h_2,w_2)(c2,h2,w2)，如果要用全连接层进行连接，参数数量就是c1×c2×h1×w1×h2×w2c_1×c_2×h_1×w_1×h_2×w_2c1×c2×h1×w1×h2×w2。使用卷积层可以以较少的参数数量来处理更大的图像。
我们使用Pytorch中的nn.Conv2d类来实现二维卷积层，主要关注以下几个构造函数参数：
• in_channels (python:int) – Number of channels in the input imag
• out_channels (python:int) – Number of channels produced by the convolution
• kernel_size (python:int or tuple) – Size of the convolving kernel
• stride (python:int or tuple, optional) – Stride of the convolution. Default: 1
• padding (python:int or tuple, optional) – Zero-padding added to both sides of the input. Default: 0
• bias (bool, optional) – If True, adds a learnable bias to the output. Default: True
forward函数的参数为一个四维张量，形状为(N,Cin,Hin,Win)(\pmb{N},\pmb{C}_{in},\pmb{H}_{in},\pmb{W}_{in})(NNN,CCCin,HHHin,WWWin)，返回值也是一个四维张量，形状为(N,Cout,Hout,Wout)(\pmb{N},\pmb{C}_{out},\pmb{H}_{out},\pmb{W}_{out})(NNN,CCCout,HHHout,WWWout)，其中N是批量大小，C,H,W分别表示通道数、高度、宽度。
代码讲解
X = torch.rand(4, 2, 3, 5)
print(X.shape)
conv2d = nn.Conv2d(in_channels=2, out_channels=3, kernel_size=(3, 5), stride=1, padding=(1, 2))
Y = conv2d(X)
print('Y.shape: ', Y.shape)
print('weight.shape: ', conv2d.weight.shape)
print('bias.shape: ', conv2d.bias.shape)
输出结果：
torch.Size([4, 2, 3, 5])
Y.shape: torch.Size([4, 3, 3, 5])
weight.shape: torch.Size([3, 2, 3, 5])
bias.shape: torch.Size([3])
池化层主要用于缓解卷积层对位置的过度敏感性。同卷积层一样，池化层每次对输入数据的一个固定形状窗口（又称池化窗口）中的元素计算输出，池化层直接计算池化窗口内元素的最大值或者平均值，该运算也分别叫做最大池化或平均池化。图6展示了池化窗口形状为2×2的最大池化。
二维平均池化的工作原理与二维最大池化类似，但将最大运算符替换成平均运算符。池化窗口形状为p×q的池化层称为p×q池化层，其中的池化运算叫作p×q池化。
池化层也可以在输入的高和宽两侧填充并调整窗口的移动步幅来改变输出形状。池化层填充和步幅与卷积层填充和步幅的工作机制一样。
在处理多通道输入数据时，池化层对每个输入通道分别池化，但不会像卷积层那样将各通道的结果按通道相加。这意味着池化层的输出通道数与输入通道数相等。
本文使用Pytorch中的nn.MaxPool2d实现最大池化层，关注以下构造函数参数：
• kernel_size – the size of the window to take a max over
• stride – the stride of the window. Default value is kernel_size
• padding – implicit zero padding to be added on both sides
forward函数的参数为一个四维张量，形状为(N,C,Hin,Win)(\pmb{N},\pmb{C},\pmb{H}_{in},\pmb{W}_{in})(NNN,CCC,HHHin,WWWin)，返回值也是一个四维张量，形状为(N,C,Hout,Wout)(\pmb{N},\pmb{C},\pmb{H}_{out},\pmb{W}_{out})(NNN,CCC,HHHout,WWWout)，其中N{\pmb{N}}NNN是批量大小,C,H,W\pmb{C,H,W}C,H,WC,H,WC,H,W分别表示通道数、高度、宽度。
X = torch.arange(32, dtype=torch.float32).view(1, 2, 4, 4)
pool2d = nn.MaxPool2d(kernel_size=3, padding=1, stride=(2, 1))
Y = pool2d(X)
print(X)
print(Y)
平均池化层使用的是nn.AvgPool2d，使用方法与nn.MaxPool2d相同。
例题假如你用全连接层处理一张256×256的彩色（RGB）图像，输出包含1000个神经元，在使用偏置的情况下，参数数量是：
1、65536001
2、65537000
3、196608001
4、196609000
答案解释
图像展平后长度为3×256×256，权重参数和偏置参数的数量3×256×256×1000+1000=196609000。
假如你用全连接层处理一张256×256的彩色（RGB）图像，卷积核的高宽是3×3，输出包含10个通道，在使用偏置的情况下，这个卷积层共有多少个参数：
1、90
2、100
3、280
4、300
答案解释
输入通道数是3，输出通道数是10，所以参数数量是10×3×3×3+10=280。
conv2d = nn.Conv2d(in_channels=3, out_channels=4, kernel_size=3, padding=2)，输入一张形状为3×100×100的图像，输出的形状为：
1、3×102×102
2、3×100×100
3、4×102×102
4、4×100×100
答案解释
输出通道数是4，上下两侧总共填充4行，卷积核高度是3，所以输出的高度是104−3+1=102，宽度同理可得。
关于卷积层，以下哪种说法是错误的：
1、1×1卷积可以看作是通道维上的全连接
2、某个二维卷积层用于处理形状为3X100X100的输入，则该卷积层无法处理形状为3X256X256的输入
3、卷积层通过填充、步幅、输入通道数、输出通道数等调节输出的形状
4、两个连续的3×3卷积核的感受野与一个5×5卷积核的感受野相同
答案解释
选项1：正确
选项2：对于高宽维度，只要输入的高宽（填充后的）大于或等于卷积核的高宽即可进行计算
选项3：正确
选项4：正确
关于池化层，以下哪种说法是错误的：（）
1、池化层不参与反向传播
2、池化层没有模型参数
3、池化层通常会减小特征图的高和宽
4、池化层的输入和输出具有相同的通道数
答案解释
选项1：错误，池化层有参与模型的正向计算，同样也会参与反向传播
选项2：正确，池化层直接对窗口内的元素求最大值或平均值，并没有模型参数参与计算
选项3：正确
选项4：正确
作者：zhangbin_0719
