deeplearning笔记4：卷积神经网络

卷积神经网络

为什么要用卷积神经网络-卷积神经网络的作用

防止model overfitting

在计算机视觉中，input vector往往维度很高，将其直接应用于neural network很有可能会造成overfitting，以下图为例：
在“cat recognition”中，cat image为64643的vector，将其转换到一维空间，则其维度为12288，如此高维的input直接输入neural network会造成overfitting现象。

在“卷积神经网络”中，可以用convolution operation对原始input进行降维，从而防止neural network过拟合。

边缘检测

convolution operation除可用于“降维”，还可用于“边缘检测”，如下图所示：
在人脸识别中，convolution operation可以识别人脸的局部边界——人脸局部——整个人脸；
在object recognition中，convolution operation可以识别image中“垂直部分”和“水平部分”；

利用convolution operation进行边缘检测的原理如下：

• 首先，先介绍一下什么叫“convolution operation”：
  下图中，最左边的matrix为input，中间matrix为filter，最右边matrix为output。convolution operation是指将filter matrix映射于input matrix，并且将他们的对应元素相乘后求和，将最终结果作为output，如：说先将filter matrix与input matrix在upper-left 元素上对齐：其convolution operation为：
  110+110+110-110-110-110=0，则output[0][0]=0。将filter matrix在input matrix上依次移动，求convolution operation value作为相应位置的output。
• 利用convolution operation进行边缘检测
  如下图所示：
  我们首先定义在input matrix中，元素=10，表示“白色”，元素=0，表示“灰色”。灰色与白色之间的那个边界即为我们要检测的“边界”。
  将filter在input上进行映射，得到output，可以看出，output为“中间白色，两边灰色”的image，其中间的那条白色条纹，即为我们要检测的“边界”。
  利用convolution operation进行边界检测的关键在于，选好filter，用其过滤出input的边界。