CNN框架:

cnn 卷积层与池化层区别 卷积层池化层作用_cnn 卷积层与池化层区别

池化层(pooling layer)也叫做子采样层(subsampling layer),其作用是进行特征选择,降低特征数量,并从而减少参数数量。

cnn 卷积层与池化层区别 卷积层池化层作用_ide_02

为什么conv-layer之后需要加pooling_layer?

卷积层【局部连接和权重共享】虽然可以显著减少网络中连接的数量,但特征映射组中的神经元个数并没有显著减少。如果后面接一个分类器,分类器的输入维数依然很高,很容易过拟合。为了解决这个问题,可以再卷积层之后加上一个pooling layer,从而降低特征维数,避免过拟合。

cnn 卷积层与池化层区别 卷积层池化层作用_过拟合_03

Pooling是指对每个区域进行下采样(Down Sampling)得到一个之,作为这个区域的概括。常用的pooling 函数有两种:

1)最大池化(Max Pooling):一般是取一个区域内所有神经元的最大值。

2)平均池化(Mean Pooling):一般是取区域内所有神经元的平均值。

上图给出了采样max pooling进行子采样操作的示例。可以看出,汇聚层不但 可以有效地减少神经元的数量,还可以使得网络对


一些小的局部形态改变保持 不变性,并拥有更大的感受野。


 


注意:过大的采样区域会急剧减少神经元的数量,会造成过多的信息损失。


 


如果只有conv-layer会怎么样?

1)过于执着局部特征学习,忽视全局

      经过3层conv-layer 3X3filter后,相当于只用了1层conv-layer7X7filter来扫描原图(28-7+1=22);对原图整体状态信息学习很少;从底层细小局部简单的特征到高层复杂全局性更高的特征,推进速度太慢。

2)计算量仍然很大

为什么使用pooling layer?

1)大幅降低parameters,降低计算量

2)通过多层conv-layer间接用更大的filter扫描原图

为什么Max pooling要优于strided convolution和average pooling?

1)strided convolution的弊端

跳格平移,容易overlook,忽视或者丢失细节数据。

2)average pooling的弊端

取均值,容易造成稀释特征程度的效果问题。

最佳downsampling的方法组合:

1)unstrided convolution

2)max pooling