起首细讲一下 Max pooling。

Max pooling

在卷积后还会有一个 pooling 的操作，尽管有其他的比如 average pooling 等，这里只提 max pooling。

max pooling 的操作如下图所示：全部图片被不重叠的瓜分成若干个同样大年夜小的小块（pooling size）。每个小块内只取最大年夜的数字，再舍弃其他节点后，保持原有的平面构造得出 output。

max pooling 在不合的 depth 上是分开履行的，且不须要参数控制。 那么问题就 max pooling 有什么感化？部分信息被舍弃后难道没有影响吗？

Max pooling 的重要功能是 downsampling，却不会破坏辨认结不雅。 这意味着卷积后的 Feature Map 中有对于辨认物体不须要的冗余信息。 那么我们就反过来思虑，这些 “冗余” 信息是若何产生的。

直觉上，我们为了探测到某个特定外形的存在，用一个 filter 半数个图片进行慢慢扫描。但只有出现了该特定外形的区域所卷积获得的输出才是真正有效的，用该 filter 卷积其他区域得出的数值就可能对该外形是否存在的剖断影响较小。 比如下图中，我们照样推敲探测 “横折” 这个外形。 卷积后获得 3x3 的 Feature Map 中，真正有效的就是数字为 3 的那个节点，其余数值对于这个义务而言都是无关的。 所以用 3x3 的 Max pooling 后，并没有对 “横折” 的探测产生影响。 试想在这惯例子中如不雅不应用 Max pooling，而让收集本身去进修。 收集也会去进修与 Max pooling 近似效不雅的权重。因为是近似效不雅，增长了更多的 parameters 的价值，却还不如直接进行 Max pooling。

Max pooling 还有类似 “选择句” 的功能。假如有两个节点，个中第一个节点会在某些输情面况下最大年夜，那么收集就只在这个节点上流畅信息；而另一些输入又会让第二个节点的值最大年夜，那么收集就转而走这个节点的分支。

然则 Max pooling 也有不好的处所。因为并非所有的抓取都像上钤记样的极妒攀例子。有些周边信息对某个概念是否存在的剖断也有影响。 并且 Max pooling 是对所有的 Feature Maps 进行等价的操作。就比如用雷同网孔的渔网打鱼，必定会有漏网之鱼。

下面对其他的 pooling 办法做一个简单的┞符收成前一段时光┞符理的小我认为比较不错且风行的 pooling 办法）。

SUM pooling

基于 SUM pooling 的中层特点表示办法，指的是针对中心层的随便率性一? channel（比如 VGGNet16, pool5 有 512 个 channel），将该 channel 的 feature map 的所有像素值乞降，如许每一个 channel 获得一个实数值，N 个 channel 最终会获得一个长度为 N 的向量，该向量即为 SUM pooling 的结不雅。

AVE pooling

AVE pooling 就是 average pooling，本质上它跟 SUM pooling 是一样的，只不过是将像素值乞降后还除以了 feature map 的尺寸。作者认为，AVE pooling 可以带来必定意义上的腻滑，可以减小图像尺寸变更的干扰。假想一张 224224 的图像，将其 resize 到 448448 后，分别采取 SUM pooling 和 AVE pooling 对这两张图像提取特点，我们猜测的结不雅是，SUM pooling 计算出来的余弦类似度比拟于 AVE pooling 算出来的应当更小，也就是 AVE pooling 应当稍微优于 SUM pooling 一些。

MOP Pooling 源自 Multi-scale Orderless Pooling of Deep Convolutional Activation Features这篇文┞仿，一作是 Yunchao Gong，此前在搞哈希的时刻，读过他的一些论文，个中比较都代表性的论文是 ITQ，笔者还专门写过一篇标记论文浏览：Iterative Quantization 迭代量化。MOP pooling 的根本思惟是多标准与 VLAD（VLAD 道理可以参考笔者之前写的博文图像检索：BoF、VLAD、FV 三剑客），其具体的 pooling 步调如下：

MAX pooling 指的是对于每一个 channel（假设有 N 个 channel），将该 channel 的 feature map 的像素值拔取个中最大年夜值作为该 channel 的代表，大年夜而获得一个 N 维向量表示。笔者在 flask-keras-cnn-image-retrieval中采取的┞俘是 MAX pooling 的方法。

膳绫擎所总结的 SUM pooling、AVE pooling 以及 MAX pooling，这三种 pooling 方法，在笔者做过的实验中，MAX pooling 要稍微优于 SUM pooling、AVE pooling。不过这三种方法的 pooling 对于 object retrieval 的晋升仍然有限。

MOP pooling

Overview of multi-scale orderless pooling for CNN activations (MOP-CNN). Our proposed feature is a concatenation of the feature vectors from three levels: (a)Level 1, corresponding to the 4096-dimensional CNN activation for the entire 256256image; (b) Level 2, formed by extracting activations from 128128 patches and VLADpooling them with a codebook of 100 centers; (c) Level 3, formed in the same way aslevel 2 but with 64*64 patches.

 1/3    1 2 3 下一页 尾页

　　推荐阅读

　　揭秘亚马逊玩转仓储分拣技术，智能系统基于大数据

7月11日，亚马逊全球第三届会员日(PrimeDay)正式开启，中国Prime会员初次介入个中，这意味着亚马逊须要调动全球仓储物流的资本，包管中国会员在最短的时光收到海外直邮的担保。 “每次>>>详细阅读

本文标题：CNN中的maxpool到底是什么原理？

地址：http://www.17bianji.com/lsqh/36193.html

 1/2    1