【八股文-机器学习】各种卷积汇总
下采样卷积
普通的2D卷积，实现上采样功能。
反卷积
通过对采样输入补零，扩大分辨率，一种特殊的正向卷积。
分离与分组卷积
对卷积核分层，一般用于减少计算量或者每个channel具有较大差异，比如计算关键点经常会用到。
比如卷积核3 x 3 x in x out，普通的用法就是out个卷积核对所有in channel进行卷积运算，而分离卷积，一次只负责n层，一般256输入256输出，如果分离卷积就是一个核负责1层，分4组的分组卷积就是一个核卷64层。
从一个具体的例子来看，Group conv本身就极大地减少了参数。比如当输入通道为256，输出通道也为256，kernel size为3×3，不做Group conv参数为256×3×3×256。实施分组卷积时，若group为8，每个group的input channel和output channel均为32，参数为8×32×3×3×32，是原来的八分之一。而Group conv最后每一组输出的feature maps应该是以concatenate的方式组合。
空洞卷积
最简单的方式允许kernel在不增加参数数量的情况下增加其感受野，分割里用得多。
可变形卷积
两个分支：一个分支预测从原点的偏移，另一个分支卷积操作，通过抽取偏移位置对应的像素值进行卷积操作。
1x1卷积
应用很广泛，比如Resnet的瓶颈结构，Inception系列的一些网络，MobileNet中用DW卷积组合1x1卷积对网络进行轻量化等。11卷积是大小为11的滤波器做卷积操作。
1*1卷积作用
1、降维，控制特征图深度。不需要考虑像素跟周边像素的关系，它主要用于调节通道数。
2、减少参数。卷积层之后经过激励层，11的卷积在前一层的学习表示上添加了非线性激励，提升网络的表达能力；
3、*增加模型深度，通道之间增加信息交互**。在channel维度上做线性组合，一定程度上提升模型的表征能力。