3.3.2 感受野

1962年Hubel和Wiesel通过对猫视觉皮层细胞的研究，提出了感受野(receptive field)的概念，Fukushima基于感受野概念提出的神经认知机(neocognitron)可以看作是卷积神经网络的第一个实现网络。

3.3.6 卷积网络的感受野Receptive field (RF)以及计算

3.3.6.1 为什么学习感受野

感受野的感念前面提到是1962年Hubel和Wiesel通过对猫视觉皮层细胞的研究，提出了感受野(receptive field)的概念，Fukushima基于感受野概念提出的神经认知机(neocognitron)可以看作是卷积神经网络的第一个实现网络。

• 1、感受野的理解有助于对分类、检测网络架构的设计有深入的思考

• 2、感受野是卷积网络理解的基石，甚至自己去设计深度网络架构有着重要的作用。

3.3.6.2 感受野定义

• 定义：在卷积神经网络中，感受野的定义是 卷积神经网络每一层输出的特征图（feature map）上的像素点在原始图像上映射的区域大小。

  • 或者也叫：感受野（Receptive Field）指的是神经网络中神经元“看到的”输入区域，在卷积神经网络中，feature map上某个元素的计算受输入图像上某个区域的影响，这个区域即该元素的感受野。

  • 1、神经元感受野的值越大表示其能接触到的原始图像范围就越大，也意味着他可能蕴含更为全局、语义层次更高的特征；

  • 2、神经元感受野的值越小则表示其所包含的特征越趋向于局部和细节。因此感受野的值可以大致用来判断每一层的抽象层次。

  • 由于图像是二维的，具有空间信息，因此感受野的实质其实也是一个二维区域。但业界通常将感受野定义为一个正方形区域，因此也就使用边长来描述其大小

下面这张图表示感受野的理解：

kernel size 均为3×3，stride均为1，绿色标记的是𝐿𝑎𝑦𝑒𝑟2 每个神经元看到的区域，黄色标记的是𝐿𝑎𝑦𝑒𝑟3看到的区域，具体地，𝐿𝑎𝑦𝑒𝑟2每个神经元可看到𝐿𝑎𝑦𝑒𝑟1上 3×3 大小的区域，𝐿𝑎𝑦𝑒𝑟3每个神经元看到𝐿𝑎𝑦𝑒𝑟2上 3×3大小的区域，该区域可以又看到𝐿𝑎𝑦𝑒𝑟1上 5×5大小的区域。

那么如何计算出感受野大小，上述的感受野大小如何得到这个结果。

3.3.6.3 计算

下图为后面要介绍的VGG感受野大小计算对应图：