Please enable JavaScript.
Coggle requires JavaScript to display documents.
池化原理 (分类 (最大池化 (实现 (正向传播
对邻域内特征点取最大, 反向传播
把梯度直接传给前一层最大的像素), 论文
Learning…
池化原理
分类
最大池化
-
论文
Learning Mid-Level Features For Recognition
作用
卷积层参数误差造成估计均值的偏移,更多的保留纹理信息
平均池化
-
论文
Learning Mid-Level Features For Recognition
作用
邻域大小受限造成的估计值方差增大,更多的保留图像的背景信息
随机池化
实现
介于两者之间,通过对像素点按照数值大小赋予概率,再按照概率进行亚采样,在平均意义上,与mean-pooling近似,在局部意义上,则服从max-pooling的准则
特征及原理
近似不变
概述
当输入做出少量平移(旋转、伸缩等)是,池化层能帮助输入的表示近似不变
原理
- 以最大池化单通道训练为例,单层训练就能就对平移有天然不变性,因为变一点结果是一样的
- 以旋转不变为例,因为训练数据不同样本的选择角度不一样,但结果出来是一样的,同样的卷积核学习出来的结果大小可能会有微小区别,但池化后也会保持不变,因为训练会使卷积核最小化这种差异
减少参数
概述
池化在不带参数的情况向减少了参数,自然就会提升计算效率,减少过拟合
原理
- 卷积之后,输出的结果的纬度还是很大
- 虽然再用一层卷积层可以继续减少纬度,但是这又引入了新的Parameter
- 池化层在提取特征的同时不会引入新Parameter
控制输出
-
原理
分类层的输入必须是固定的大小,这通常通过调整池化层区域的偏置大小来实现
定义
使用摸一个位置相输出的总体统计特征来代替网络在该位置的输出