【连载】深度学习笔记11：利用numpy搭建一个卷积神经网络 

Game

      前两个笔记集中探讨了卷积神经网络中的卷积原理，对于二维卷积和三维卷积的原理进行了深入的剖析，对 CNN 的卷积、池化、全连接、滤波器、感受野等关键概念进行了充分的理解。本节内容将继续秉承之前 DNN 的学习路线，在利用 Tensorflow 搭建神经网络之前，先尝试利用 numpy 手动搭建卷积神经网络，以期对卷积神经网络的卷积机制、前向传播和反向传播的原理和过程有更深刻的理解。

单步卷积过程

      在正式搭建 CNN 之前，我们先依据前面笔记提到的卷积机制的线性计算的理解，利用 numpy 定义一个单步卷积过程。代码如下：

1. def conv_single_step(a_slice_prev, W, b):
   
2.     s = a_slice_prev * W    # Sum over all entries of the volume s.
   
3.     Z = np.sum(s)    # Add bias b to Z. Cast b to a float() so that Z results in a scalar value.
   
4.     Z = float(Z + b)   
   
5.     return Z

复制代码

      在上述的单步卷积定义中，我们传入了一个前一层输入的要进行卷积的区域，即感受野  a_slice_prev ，滤波器 W，即卷积层的权重参数，偏差 b，对其执行 Z=Wx+b 的线性计算即可实现一个单步的卷积过程。

CNN前向传播过程：卷积

      正如 DNN 中一样，CNN 即使多了卷积和池化过程，模型仍然是前向传播和反向传播的训练过程。CNN 的前向传播包括卷积和池化两个过程，我们先来看如何利用 numpy 基于上面定义的单步卷积实现完整的卷积过程。卷积计算并不难，我们在单步卷积中就已经实现了，难点在于如何实现滤波器在输入图像矩阵上的的扫描和移动过程。

      这其中我们需要搞清楚一些变量和参数，以及每一个输入输出的 shape，这对于我们执行卷积和矩阵相乘至关重要。首先我们的输入是原始图像矩阵，也可以是前一层经过激活后的图像输出矩阵，这里以前一层的激活输出为准，输入像素的 shape 我们必须明确，然后是滤波器矩阵和偏差，还需要考虑步幅和填充，在此基础上我们基于滤波器移动和单步卷积搭建定义如下前向卷积过程：

1. def conv_forward(A_prev, W, b, hparameters):   
   
2.     """
   
3.     Arguments:
   
4.     A_prev -- output activations of the previous layer, numpy array of shape (m, n_H_prev, n_W_prev, n_C_prev)
   
5.     W -- Weights, numpy array of shape (f, f, n_C_prev, n_C)
   
6.     b -- Biases, numpy array of shape (1, 1, 1, n_C)
   
7.     hparameters -- python dictionary containing "stride" and "pad"
   
8. 
   
9.     Returns:
   
10.     Z -- conv output, numpy array of shape (m, n_H, n_W, n_C)
    
11.     cache -- cache of values needed for the conv_backward() function
    
12.     """
    
13.     # 前一层输入的shape
    
14. 
    
15.     (m, n_H_prev, n_W_prev, n_C_prev) = A_prev.shape   
    
16.      
    
17.     # 滤波器权重的shape
    
18.     (f, f, n_C_prev, n_C) = W.shape   
    
19.     # 步幅参数
    
20.     stride = hparameters['stride']   
    
21.     # 填充参数
    
22.     pad = hparameters['pad']   
    
23.     # 计算输出图像的高宽
    
24.     n_H = int((n_H_prev + 2 * pad - f) / stride + 1)
    
25.     n_W = int((n_W_prev + 2 * pad - f) / stride + 1)   
    
26.     # 初始化输出
    
27.     Z = np.zeROS((m, n_H, n_W, n_C))   
    
28.     # 对输入执行边缘填充
    
29.     A_prev_pad = zero_pad(A_prev, pad)   
    
30.     for i in range(m):                              
    
31.         a_prev_pad = A_prev_pad[i, :, :, :]                 
    
32.         for h in range(n_H):                          
    
33.             for w in range(n_W):                     
    
34.                 for c in range(n_C):                  
    
35. 
    
36.                     # 滤波器在输入图像上扫描
    
37.                     vert_start = h * stride
    
38.                     vert_end = vert_start + f
    
39.                     horiz_start = w * stride
    
40.                     horiz_end = horiz_start + f                    
    
41.                     # 定义感受野
    
42.                     a_slice_prev = a_prev_pad[vert_start : vert_end, horiz_start : horiz_end, :]                    # 对感受野执行单步卷积
    
43.                     Z[i, h, w, c] = conv_single_step(a_slice_prev, W[:,:,:,c], b[:,:,:,c])   
    
44.     assert(Z.shape == (m, n_H, n_W, n_C))
    
45.     cache = (A_prev, W, b, hparameters)   
    
46.     return Z, cache

复制代码

      这样，卷积神经网络前向传播中一个完整的卷积计算过程就被我们定义好了。通常而言，我们也会对卷积后输出加一个 relu 激活操作，正如前面的图2所示，这里我们就省略不加了。

CNN前向传播过程：池化

      池化简单而言就是取局部区域最大值，池化的前向传播跟卷积过程类似，但相对简单一点，无需执行单步卷积那样的乘积运算。同样需要注意的是各参数和输入输出的 shape，因此我们定义如下前向传播池化过程：

1. def pool_forward(A_prev, hparameters, mode = "max"):   
   
2.     """
   
3.     Arguments:
   
4.     A_prev -- Input data, numpy array of shape (m, n_H_prev, n_W_prev, n_C_prev)
   
5.     hparameters -- python dictionary containing "f" and "stride"
   
6.     mode -- the pooling mode you would like to use, defined as a string ("max" or "average")
   
7. 
   
8.     Returns:
   
9.     A -- output of the pool layer, a numpy array of shape (m, n_H, n_W, n_C)
   
10.     cache -- cache used in the backward pass of the pooling layer, contains the input and hparameters
    
11.     """
    
12. 
    
13.     # 前一层输入的shape
    
14.     (m, n_H_prev, n_W_prev, n_C_prev) = A_prev.shape   
    
15.     # 步幅和权重参数
    
16.     f = hparameters["f"]
    
17.     stride = hparameters["stride"]   
    
18.     # 计算输出图像的高宽
    
19.     n_H = int(1 + (n_H_prev - f) / stride)
    
20.     n_W = int(1 + (n_W_prev - f) / stride)
    
21.     n_C = n_C_prev   
    
22.     # 初始化输出
    
23.     A = np.zeros((m, n_H, n_W, n_C))              
    
24. 
    
25.     for i in range(m):                       
    
26.         for h in range(n_H):                  
    
27.             for w in range(n_W):                 
    
28.                 for c in range (n_C):         
    
29. 
    
30.                     # 树池在输入图像上扫描
    
31.                     vert_start = h * stride
    
32.                     vert_end = vert_start + f
    
33.                     horiz_start = w * stride
    
34.                     horiz_end = horiz_start + f                 
    
35.                     # 定义池化区域
    
36.                     a_prev_slice = A_prev[i, vert_start:vert_end, horiz_start:horiz_end, c]                    
    
37.                     # 选择池化类型
    
38.                     if mode == "max":
    
39.                         A[i, h, w, c] = np.max(a_prev_slice)                    
    
40.                     elif mode == "average":
    
41.                         A[i, h, w, c] = np.mean(a_prev_slice)
    
42. 
    
43.     cache = (A_prev, hparameters)   
    
44.     assert(A.shape == (m, n_H, n_W, n_C))   
    
45.     return A, cache

复制代码

      由上述代码结构可以看出，前向传播的池化过程的代码结构和卷积过程非常类似。

CNN反向传播过程：卷积

      定义好前向传播之后，难点和关键点就在于如何给卷积和池化过程定义反向传播过程。卷积层的反向传播向来是个复杂的过程，Tensorflow 中我们只要定义好前向传播过程，反向传播会自动进行计算。但利用 numpy 搭建 CNN 反向传播就还得我们自己定义了。其关键还是在于准确的定义损失函数对于各个变量的梯度：

      由上述梯度计算公式和卷积的前向传播过程，我们定义如下卷积的反向传播函数：

1. def conv_backward(dZ, cache):    """
   
2.     Arguments:
   
3.     dZ -- gradient of the cost with respect to the output of the conv layer (Z), numpy array of shape (m, n_H, n_W, n_C)
   
4.     cache -- cache of values needed for the conv_backward(), output of conv_forward()
   
5. 
   
6.     Returns:
   
7.     dA_prev -- gradient of the cost with respect to the input of the conv layer (A_prev),
   
8.                numpy array of shape (m, n_H_prev, n_W_prev, n_C_prev)
   
9.     dW -- gradient of the cost with respect to the weights of the conv layer (W)
   
10.           numpy array of shape (f, f, n_C_prev, n_C)
    
11.     db -- gradient of the cost with respect to the biases of the conv layer (b)
    
12.           numpy array of shape (1, 1, 1, n_C)
    
13.     """
    
14.     # 获取前向传播中存储的cache
    
15.     (A_prev, W, b, hparameters) = cache   
    
16.     # 前一层输入的shape
    
17.     (m, n_H_prev, n_W_prev, n_C_prev) = A_prev.shape   
    
18.     # 滤波器的 shape
    
19.     (f, f, n_C_prev, n_C) = W.shape   
    
20.     # 步幅和权重参数
    
21.     stride = hparameters['stride']
    
22.     pad = hparameters['pad']   
    
23.     # dZ 的shape
    
24.     (m, n_H, n_W, n_C) = dZ.shape   
    
25.     # 初始化 dA_prev, dW, db
    
26.     dA_prev = np.zeros((m, n_H_prev, n_W_prev, n_C_prev))                           
    
27.     dW = np.zeros((f, f, n_C_prev, n_C))
    
28.     db = np.zeros((1, 1, 1, n_C))   
    
29.     # 对A_prev 和 dA_prev 执行零填充
    
30.     A_prev_pad = zero_pad(A_prev, pad)
    
31.     dA_prev_pad = zero_pad(dA_prev, pad)   
    
32.     for i in range(m):               
    
33.         # select ith training example from A_prev_pad and dA_prev_pad
    
34.         a_prev_pad = A_prev_pad[i,:,:,:]
    
35.         da_prev_pad = dA_prev_pad[i,:,:,:]        
    
36.         for h in range(n_H):                 
    
37.             for w in range(n_W):            
    
38.                 for c in range(n_C):         
    
39. 
    
40.                     # 获取当前感受野
    
41.                     vert_start = h * stride
    
42.                     vert_end = vert_start + f
    
43.                     horiz_start = w * stride
    
44.                     horiz_end = horiz_start + f                    
    
45.                     # 获取当前滤波器矩阵
    
46.                     a_slice = a_prev_pad[vert_start:vert_end, horiz_start:horiz_end, :]                    
    
47.                     # 梯度更新
    
48.                     da_prev_pad[vert_start:vert_end, horiz_start:horiz_end, :] += W[:,:,:,c] * dZ[i, h, w, c]
    
49.                     dW[:,:,:,c] += a_slice * dZ[i, h, w, c]
    
50.                     db[:,:,:,c] += dZ[i, h, w, c]
    
51. 
    
52.                     dA_prev[i, :, :, :] = da_prev_pad[pad:-pad, pad:-pad, :]   
    
53.     assert(dA_prev.shape == (m, n_H_prev, n_W_prev, n_C_prev))   
    
54.     return dA_prev, dW, db

复制代码

CNN反向传播过程：池化

      反向传播中的池化操作跟卷积也是类似的。再此之前，我们需要根据滤波器为最大池化和平均池化分别创建一个 mask 和一个 distribute_value :

1. def create_mask_from_window(x):   
   
2.     """
   
3.     Creates a mask from an input matrix x, to identify the max entry of x.
   
4. 
   
5.     Arguments:
   
6.     x -- Array of shape (f, f)
   
7. 
   
8.     Returns:
   
9.     mask -- Array of the same shape as window, contains a True at the position corresponding to the max entry of x.
   
10.     """
    
11.     mask = (x == np.max(x))   
    
12.     return mask

复制代码

1. def distribute_value(dz, shape):   
   
2.     """
   
3.     Distributes the input value in the matrix of dimension shape
   
4. 
   
5.     Arguments:
   
6.     dz -- input scalar
   
7.     shape -- the shape (n_H, n_W) of the output matrix for which we want to distribute the value of dz
   
8. 
   
9.     Returns:
   
10.     a -- Array of size (n_H, n_W) for which we distributed the value of dz
    
11.     """
    
12. 
    
13.     (n_H, n_W) = shape   
    
14.     # Compute the value to distribute on the matrix
    
15.     average = dz / (n_H * n_W)   
    
16.     # Create a matrix where every entry is the "average" value
    
17.     a = np.full(shape, average)   
    
18.     return a

复制代码

然后整合封装最大池化的反向传播过程：

1. def pool_backward(dA, cache, mode = "max"):   
   
2.     """
   
3.     Arguments:
   
4.     dA -- gradient of cost with respect to the output of the pooling layer, same shape as A
   
5.     cache -- cache output from the forward pass of the pooling layer, contains the layer's input and hparameters
   
6.     mode -- the pooling mode you would like to use, defined as a string ("max" or "average")
   
7. 
   
8.     Returns:
   
9.     dA_prev -- gradient of cost with respect to the input of the pooling layer, same shape as A_prev
   
10.     """
    
11.     # Retrieve information from cache
    
12.     (A_prev, hparameters) = cache   
    
13.     # Retrieve hyperparameters from "hparameters"
    
14.     stride = hparameters['stride']
    
15.     f = hparameters['f']   
    
16.     # Retrieve dimensions from A_prev's shape and dA's shape
    
17.     m, n_H_prev, n_W_prev, n_C_prev = A_prev.shape
    
18.     m, n_H, n_W, n_C = dA.shape   
    
19.     # Initialize dA_prev with zeros
    
20.     dA_prev = np.zeros((m, n_H_prev, n_W_prev, n_C_prev))   
    
21.     for i in range(m):                     
    
22.         # select training example from A_prev
    
23.         a_prev = A_prev[i,:,:,:]        
    
24.         for h in range(n_H):                  
    
25.             for w in range(n_W):              
    
26.                 for c in range(n_C):         
    
27. 
    
28.                     # Find the corners of the current "slice"
    
29.                     vert_start = h * stride
    
30.                     vert_end = vert_start + f
    
31.                     horiz_start = w * stride
    
32.                     horiz_end = horiz_start + f                    
    
33.                     # Compute the backward propagation in both modes.
    
34.                     if mode == "max":
    
35.                         a_prev_slice = a_prev[vert_start:vert_end, horiz_start:horiz_end, c]
    
36.                         mask = create_mask_from_window(a_prev_slice)
    
37.                         dA_prev[i, vert_start: vert_end, horiz_start: horiz_end, c] += np.multiply(mask, dA[i,h,w,c])                    elif mode == "average":                     # Get the value a from dA
    
38.                         da = dA[i,h,w,c]                        
    
39.                         # Define the shape of the filter as fxf
    
40.                         shape = (f,f)                        
    
41.                         # Distribute it to get the correct slice of dA_prev. i.e. Add the distributed value of da.
    
42.                         dA_prev[i, vert_start: vert_end, horiz_start: horiz_end, c] += distribute_value(da, shape)   
    
43.     # Making sure your output shape is correct
    
44.     assert(dA_prev.shape == A_prev.shape)   
    
45.     return dA_prev

复制代码

      这样卷积神经网络的整个前向传播和反向传播过程我们就搭建好了。可以说是非常费力的操作了，但我相信，经过这样一步步的根据原理的手写，你一定会对卷积神经网络的原理理解更加深刻了。

本文来自《自兴人工智能》项目部：凯文