CNN

卷积神经网络简介

下面具体看一下这两个问题

图像是由很多像素构成的，每个像素又是由颜色构成的。一张彩色图，每一个像素都有RGB（即光学三原色）三个通道，用于表示颜色信息。所以，对于一张常见的1000*1000清晰度的图片，就会含有1000*1000*3个数值需要计算，这显然是一个庞大的数据。

为了解决此问题，CNN将大量参数降维成少量参数。

需要说明的是，降维并不会影响结果。就比如将一张图像在一定范围内缩小，图像的特征仍然不会改变。

图像简单数字化无法保留图像特征

如果简单地将图像的特征01化，即有圆形的地方为1，其余地方为0。则对于特征相近的图像（比如平移），则数字化的矩阵会有很大区别。

为解决此问题，CNN用视觉的方式保留图像特征，即模仿人的肉眼去提取、存留特征。

深度学习的理论研究，很大程度上是对人视觉的模仿。

人类视觉如何运作？

人类视觉原理1

首先摄入原始信号（即各种颜色的像素点），然后提取不同物体间的分界，接着识别图像的抽象（如几何形状），最后判断物体。

对应成图像处理的步骤：读取图像并数值化、提取图像边缘、提取图像特征、图像分类。

所以一个图像处理的思路是：构造多层的神经网络，较低层提取初级的图像特征，较高层进一步细化，最终在顶层实现图像的分类。

核心部分是一个卷积核，滑窗处理。大致思路是用一个卷积核来过滤图像的各个区域，得到这些小区域的特征值。

卷积层运算过程

具体计算过程为对应项相乘然后相加。

(32*32*3->28*28*1)

在具体应用中，往往有多个卷积核，可以认为，每个卷积核代表了一种图像模式，**如果某个图像块与此卷积核卷积出的值大，则认为此图像块十分接近于此卷积核。**如果我们设计了6个卷积核，可以理解：我们认为这个图像上有6种底层纹理模式，也就是我们用6中基础模式就能描绘出一副图像。比如说垂直边缘、水平边缘等。

如果使用6个卷积核提取，最终得到6个特征图，叠加在一起就得到了卷积层。

同时可以对卷积层继续进行卷积操作。注意每一个卷积核的深度和上一层的输入相等。经过连续的卷积不断提炼出高层次的特征，一步步将特征浓缩，得到高层次特征，最终达到分类效果。

可以发现，其实卷积层已经将图像缩小了一圈（如果不加边框），但是效果并不明显。

在了解卷积的大致过程后，还有一些细节部分需要思考。

卷积核每次滑动的步长stride
- 步长如果太大，比如大于卷积核的长度，则会遗漏一些像素点，导致特征损失。
- 步长如果太小，比如为1，则效率太低。
卷积对每个像素点是否平权
- 由于滑窗的交集部分是计算了多次的，所以边缘的像素点计算次数少于中间的像素点。所以可能会丢失一部分边缘信息。
- 解决方法是在图像外围加一圈0（或多圈），使得在不影响特征的情况下，增加边缘像素点的计算次数。

由于卷积的过程是多次叠加的，所以需要计算卷积过程中每一次的输入图尺寸，来设计卷积核。

$h_{out}=\frac{h_{in}-Filter+2Pad}{Stride}+1$

$w_{out}=\frac{w_{in}-Filter+2Pad}{Stride}+1$
权值共享
- 同一卷积过程中，filter内的值不变，即对于每一时刻滑窗对应的矩阵，各个位置的参数对于结果的权重保持一致。