Ch07 CNN与CV修订于 二〇二六年七月六日
卷积核 (Convolution Kernel)
一句话理解
滑动窗口,在图像上扫描提取局部特征——卷积核是CNN的”眼睛”,通过参数化的滤波器从图像中提取边缘、纹理、形状等特征。
零基础理解
想象你用手电筒照一张大图,每次只能看到手电筒光圈范围内的一个小区域。你移动手电筒(滑动),每次记录光圈内的内容(加权求和),最终拼出一张”特征图”。卷积核就是这个手电筒的光圈——它定义了每次观察的范围和方式。
核心概念
卷积核的基本参数
| 参数 | 含义 | 典型值 | 影响 |
|---|---|---|---|
| 核大小 (Kernel Size) | 滑动窗口的尺寸 | 3x3, 5x5, 7x7 | 越大感受野越大,参数量也越大 |
| 步长 (Stride) | 每次移动的像素数 | 1, 2 | 步长>1时下采样,减小特征图尺寸 |
| 填充 (Padding) | 边缘补零的圈数 | 0 (valid), 1 (same) | “same”保持尺寸不变 |
| 输入通道数 () | 输入特征图的通道数 | 3(RGB), 64, 128 | 必须与输入数据的通道数一致 |
| 输出通道数 () | 卷积核的数量 | 64, 128, 256 | 每个核产生一个输出通道 |
卷积输出尺寸计算
其中 为输入高度, 为填充, 为核大小, 为步长。
参数量与计算量
一个标准卷积层的参数量:
计算量(FLOPs):
不同卷积核提取不同特征
特征层级
| 层级 | 提取的特征 | 卷积核表现 | 示例 |
|---|---|---|---|
| 浅层 (Layer 1-3) | 边缘、颜色、纹理 | 检测水平/垂直/对角线边缘 | Gabor-like滤波器 |
| 中层 (Layer 4-7) | 形状、局部模式 | 组合边缘形成角点、圆形等 | 猫耳朵、眼睛 |
| 深层 (Layer 8+) | 语义概念、物体部件 | 检测完整物体或部件 | 人脸、车轮 |
经典手工卷积核 vs 学习卷积核
| 对比维度 | 手工设计卷积核 | 学习卷积核 (CNN) |
|---|---|---|
| 设计方式 | 人工定义数值(如Sobel, Gabor) | 通过反向传播自动学习 |
| 灵活性 | 固定功能,不可适应数据 | 根据任务和数据自动调整 |
| 可解释性 | 高,知道每个核做什么 | 低,难以直接解释 |
| 性能 | 特定任务尚可 | 远优于手工设计 |
卷积核变体
1x1 卷积 (Pointwise Convolution)
核大小为1x1,不提取空间特征,仅做通道间的线性组合。
作用: 降维/升维(改变通道数),增加非线性,减少参数。在Inception和ResNet中广泛应用。
深度可分离卷积 (Depthwise Separable Convolution)
将标准卷积拆分为两步:
- 深度卷积 (Depthwise): 每个输入通道独立卷积, 核
- 逐点卷积 (Pointwise): 1x1卷积混合通道
优势: 参数量从 降到 , 约为原来的 。
MobileNet系列的核心技术。
空洞卷积 (Dilated / Atrous Convolution)
在卷积核元素之间插入空洞(间隔),在不增加参数的情况下扩大感受野。
| 膨胀率 | 有效核大小 | 感受野(3x3核) | 应用 |
|---|---|---|---|
| 1 | 3x3 | 3x3 | 普通卷积 |
| 2 | 5x5 | 7x7 | 语义分割(DeepLab) |
| 3 | 7x7 | 13x13 | 密集预测任务 |
| 4 | 9x9 | 21x21 | 大范围上下文 |
转置卷积 (Transposed Convolution)
上采样操作,常用于图像生成和语义分割的上采样路径。
卷积核变体对比
| 卷积类型 | 参数量 | 感受野 | 通道交互 | 代表模型 |
|---|---|---|---|---|
| 标准卷积 | 小 | 全通道 | ResNet, VGG | |
| 1x1卷积 | 1x1 | 全通道 | Inception, ResNet | |
| 深度可分离 | 小 | 分步 | MobileNet, Xception | |
| 空洞卷积 | 大 | 全通道 | DeepLab | |
| 转置卷积 | 大 | 全通道 | GAN, U-Net | |
| 分组卷积 | 小 | 分组内 | ResNeXt |
2026年: 卷积核在CNN中仍不可替代
虽然ViT(Vision Transformer)兴起,但卷积核在以下方面仍有优势:
| 维度 | CNN(卷积核) | ViT(注意力) |
|---|---|---|
| 归纳偏置 | 内置的平移等变性和局部性 | 需要大量数据学习 |
| 小样本性能 | 好 | 差(需要大规模预训练) |
| 计算效率 | 高(局部操作) | 低(全局注意力) |
| 边缘设备 | 成熟部署方案 | 仍在优化中 |
| 2026年共识 | 局部特征提取的最佳选择 | 全局上下文建模的最佳选择 |
趋势: ConvNeXt、RepLKNet等工作表明,纯CNN架构在引入现代训练技术后可以达到与ViT相当的性能。2026年的主流架构开始融合两者优势(如Convolution + Attention的混合架构)。
相关笔记
- 第7章 · CNN 与计算机视觉 — CNN的完整架构与训练方法
- CNN 卷积神经网络 (Convolutional Neural Network) — 卷积神经网络综合笔记
- 深挖-ViT (Vision Transformer) — Vision Transformer,卷积的竞争对手
- 注意力机制 (Attention Mechanism) — 注意力与卷积的对比与互补
- 归一化 (Normalization) — BatchNorm在CNN中的应用
来源
- Krizhevsky et al., “ImageNet Classification with Deep Convolutional Neural Networks” (2012) — https://papers.nips.cc/paper/2012/hash/c399862d3b9d6b76c8436e924a68c45b-Abstract.html
- He et al., “Deep Residual Learning for Image Recognition” (2015) — https://arxiv.org/abs/1512.03385
- Howard et al., “MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications” (2017) — https://arxiv.org/abs/1704.04861
- Liu et al., “A ConvNet for the 2020s” (ConvNeXt, 2022) — https://arxiv.org/abs/2201.03545
- CS231n Convolutional Neural Networks for Visual Recognition — https://cs231n.github.io/convolutional-networks/