深度学习: pooling (池化 / 降采样)

article/2025/9/24 21:57:30

这里写图片描述

在知乎上面看到一个关于池化的神解释,摘来:

池化=涨水
卷积的目的是为了得到物体的边缘形状可以想象水要了解山立体的形状
水位低时得出山脚的形状
水位中等时得出山腰的形状
水位高时得出山顶的形状三点就可以大致描出山的简笔画池化的过程=升高水位(扩大矩阵网格)
卷积的过程是区分哪里是水,哪里是山
  •  

加上一点个人理解:

对于网络结构而言,上面的层看下面的层经过pooling后传上来的特征图,就好像在太空上俯瞰地球,看到的只有山脊和雪峰。这即是对特征进行宏观上的进一步抽象。

那么为什么需要 进行抽象 呢?

因为:经过池化后,得到的是 概要统计特征 。它们不仅 具有低得多的维度 (相比使用所有提取得到的特征),同时还会 改善结果(不容易过拟合) 。

max_pooling: 夜晚的地球俯瞰图,灯光耀眼的穿透性让人们只注意到最max的部分,产生亮光区域被放大的视觉错觉。故而 max_pooling 对较抽象一点的特征(如纹理)提取更好。
这里写图片描述

average_pooling: 白天的地球俯瞰图,幅员辽阔的地球表面,仿佛被经过了二次插值的缩小,所有看到的都是像素点取平均的结果。故而 average_pooling 对较形象的特征(如背景信息)保留更好。
这里写图片描述

BP

CNN中一些特殊环节的反向传播:

max_pooling的反向传播

把梯度直接传给前一层最max的像素,其余像素为0。

在这里插入图片描述

avg_pooling的反向传播

根据映射关系,把梯度均分成n份传给前一层。

在这里插入图片描述

Thinking

选用 max_pooling 还是 average_pooling ,要看需要识别的图像细节特征情况。知乎上说 二者差异不会超过 2% ,这个我深表质疑。

相比之下,个人感觉 max_pooling 是比 average_pooling 更抽象化的操作,因此可以抽象出更高级一点的特征。

由于pooling太过粗暴,操作复杂,目前业界已经逐渐放弃了对pooling的使用。替代方案 如下:

  • 采用 Global Pooling 以简化计算;

  • 增大conv的 stride 以免去附加的pooling操作。


[1] CNN中一些特殊环节的反向传播
[2] 深度学习cnn中,怎么理解图像进行池化(pooling)后的平移不变性?


http://chatgpt.dhexx.cn/article/jU0aJg5b.shtml

相关文章

echarts-sampling降采样

今天修改一个echarts的渲染效率问题。 首先修改请求数据的问题,原先的逻辑是点击的时候请求数据,我看了下数据大概有七千多条,请求耗时是1.6s-1.7s,这是在我的电脑上。同事反馈在他的电脑上需要5s以上。 于是修改逻辑为&#xf…

可观测|时序数据降采样在Prometheus实践复盘

作者:智真 基于 Prometheus 的监控实践中,尤其是在规模较大时,时序数据的存储与查询是其中非常关键,而且问题点较多的一环。如何应对大数据量下的长周期查询,原生的 Prometheus 体系并未能给出一个令人满意的答案。对此…

opencv——上采样与降采样

目录 图像金字塔为什么要使用图像金字塔 上采样与降采样高斯金字塔高斯不同拉普拉斯金字塔相关API上采样降采样 上采样与降采样代码实现代码效果 先降采样再上采样代码实现高斯不同代码实现 图像金字塔 这个也可以看做金字塔,如果我们把一个小方格当成一个二值图像的…

降采样数字滤波器-MATLAB建模

用于SD-ADC后级的降采样数字滤波器 说明 第六届集创赛芯海杯赛题对数字滤波器的要求不是很高,记录一下从Matlab搭建模型到Verilog HDL代码实现,到一部分后仿的过程。 Matlab-Simulink搭建模型 降采样数字滤波器由三级组成,第一级CIC抽取滤…

Matlab | 滤波降采样操作

文章目录 仿真代码仿真结果仿真结论 仿真代码 close all;clear;clc; fs16000;fs_j2000;f0100;t0:1/fs:10; s_k sin(2*pi*f0*t); s_k_d lowpass(s_k,1000,fs); s_k_j resample(s_k_d,1,8); windowLen 2^ceil(log2(fs)); windowLen1 2^ceil(log2(fs_j)); s1 s_k(1,1:windo…

python图像降采样,【图像处理】——改变图像的大小(降采样重采样)

目录 我们常常需要将图片变成一样大小的图片,这样利于整理和批量操作,这时候就需要使用到调整图像的大小了 这里需要使用到的是重采样和降采样,重采样用在拉伸图像上,增加的像素点的像素值是通过插值法来得到的,最常用…

Verilog功能模块——降采样

一. 模块功能与应用场景 模块功能:对输入信号进行降采样。 应用场景: 输入数据量太大,后级难以处理,需要减小信号量而不丢失关键信息 二. 模块框图与使用说明 参数DOWN_SAMPLING_TIME控制降采样倍数,参数DIN_WIDTH控…

点云降采样

点云处理有时因为数据量太大,我们需要对其进行下采样。 这里的方法是先将点云填入固定大小的三维网格中,然后每个网格中选一个点生成新的点云。 新点云即为下采样后的点云。 这里使用斯坦福兔子作为测试点云。 小兔子pcd下载地址。 原始点云:…

pcl 中的滤波与降采样

目录 pcl filter模块RandomSampleUniformSamplingVoxelGridStatisticalOutlierRemoval filter应用参考完 pcl filter模块 Module filters:https://pointclouds.org/documentation/group__filters.html RandomSample、UniformSampling、VoxelGrid都包含在其中 Rand…

降采样 matlab,改进型64倍降采样数字抽取滤波器的设计与仿真分析

1引言 ∑-△调制器与数字抽取滤波器是∑-△ADC实现16bit以上精度的关键电路模块。∑-△调制器依靠过采样与高阶闭环负反馈控制实现的噪声整形技术,将基带内的量化噪声搬移到高频段,而数字抽取滤波器则将带外高频段的噪声加以滤除,同时将输出频率降低到输入信号的奈奎斯特采样…

降采样滤波器 matlab,降采样FIR滤波器的设计与硬件实现

降采样FIR滤波器的设计与硬件实现 来源:luojiashao 作者:华仔 浏览:2051 时间:2016-08-10 14:18 标签: 摘要: 摘要:实现了一种全集成可变带宽中频宽带低通滤波器,讨论分析了跨导放大器-电容(OTA—C)连续时间型滤波器的结构、设计和具体实现,使用外部可编程电路对所设计…

OpenCV 图像上采样和降采样

文章目录 相关概念图像金字塔高斯金字塔高斯金字塔的生成过程 高斯不同(Difference of Gaussian-DOG):拉普拉斯金字塔 采样相关API上采样(cv::pyrUp) – zoom in 放大降采样 (cv::pyrDown) – zoom out 缩小 代码案例 好了,这次学…

Down-Sampling 降采样(Verilog)

简介 在图像处理领域中,降采样是一个非常常用的图像处理方法,目的是为了在大体上不改变图片的情况下,缩小图像,降低分辨率,减少数据的计算量,生成对应图像的降采样图。本质就是抽取图像数据来降低特征的维度…

关于数字信号处理中的降采样的学习总结

1、参考资料链接 https://baike.baidu.com/item/%E9%99%8D%E9%87%87%E6%A0%B7/6860368?fraladdin https://wenku.baidu.com/view/611009c881eb6294dd88d0d233d4b14e85243e4c.html https://baike.baidu.com/item/%E6%B7%B7%E5%8F%A0 https://blog.csdn.net/shenziheng1/art…

点云降采样(DownSampling)

点云降采样 1 概述 三维点云往往包含大量冗余数据,直接处理计算量大,消耗时间长,因此对其进行降采样是十分必要的。降采样同时也是点云预处理过程中的关键环节。 2 常用方法 2.1 体素网格下采样 2.1.1 原理 体素(Voxel&…

对信号做降采样处理时,需要先滤波,后抽取(降采样);升采样操作与之相反

一、对信号做降采样处理时,需要先滤波,后抽取(降采样)的原因解释: 一句话就能概括,如果抽取时不先做滤波,就会导致信号混叠,这里的滤波器是抗混叠滤波器。 1、如果不滤波&#xff…

数字图像处理--六、图像压缩

目录 1.基本概念 1.1 图像压缩概念及其分类 1.2 数据冗余 1.3 图像信息的度量 1.4 图像保真度准则 (Fidelity Criteria) 1.5 图像压缩模型 2.图像压缩方法 2.1Huffman编码 消除编码冗余 2.2算术编码 (Arithmetic Coding) 消除编码冗余 2.3LZW编码 (Lempel-Ziv-Welch …

图像压缩之算术编码

JPEG中使用了量化、哈夫曼编码等,极大的压缩了图片占用的空间,那么是否可以进一步压缩呢? 从技术角度讲,是可以的。如DropBox开源的lepton,在目前的JPEG压缩基础上,可以再节省22%左右的空间。 lepton中使用…

数字图像处理——JPEG图像压缩

该文章的代码为数字图像的JPEG压缩模型。最后是我得到的结果。 import numpy as np import matplotlib.pyplot as plt from skimage import ioDC_Y {0: 00,1: 010,2: 011,3: 100,4: 101,5: 110,6: 1110,7: 11110,8: 111110,9: 1111110,10: 11111110,11: 111111110} AC_Y {(0…

JPEG图像压缩

转载自: https://blog.csdn.net/shelldon/article/details/54234433 www.thecodeway.com http://www.ibm.com/developerworks/cn/linux/l-cn-jpeg/ 一、图像分割 JPEG算法的第一步,图像被分割成大小为8X8的小块,这些小块在整个压缩过程中…