【模型推理】谈谈模型剪枝之通道剪枝策略

  欢迎关注我的公众号 [极智视界]，获取我的更多笔记分享

  大家好，我是极智视界。本文主要聊一聊模型剪枝之通道剪枝相关实践分享。

  模型剪枝是模型推理加速的重要实现技术手段，模型剪枝往往期望达到不怎么掉精度的同时又能使模型更加轻量化。

  下面咱们开始。

1 剪枝思想

  这里使用通道剪枝策略，主要是对那些不会影响最终输入维度和输出维度的模块进行通道剪枝，同时为了适应深度学习某些层对输入维度具有严格限制的特性，这里的策略是对那些具有前后维度处理的层不进行通道剪枝。

1.1 主要思想

  基于 YOLOV3 模型的结构特点，有大量的 卷积层 和 BN层 进行直连，利用 BN层 的 weights 系数来判断对应通道的重要性，移除掉不重要通道，从而可以减少前面一层卷积层的参数；若后面也是卷积层，那么也将减少后面那层卷积的参数。这里讨论的通道剪枝的基本模块是一个 CBL块，其网络结构示意图如下：