【星球知识卡片】移动端高效率的分组网络都发展到什么程度了？
1 卷积拆分的高效
我们常见的卷积是一个二维的操作，即一个卷积核在图像上进行滑动。如果再考虑上各个通道间的信息融合，那么就是一个三维的操作，包含了通道，宽度，高度三个维度。如果将各个维度进行拆分呢？会不会更加高效？
2 分组卷积萌芽
Laurent Sifre在Google实习的时候提出了depthwise separable convolution，从此分组卷积在模型设计中开始萌芽。
3 从Inception到Xception
Google提出的多尺度，更宽的InceptionNet取得了2014年ImageNet竞赛的冠军，比同期的VGG更深但是却更小，速度更快。Xception则将Inception的思想发挥到了极致，揭开了分组卷积大规模应用的序幕。
4 分组卷积基准
对于大部分同学来说，知道分组卷积就是从MobileNet开始的，它也是当前最重要的分组卷积基准模型。
5 多尺度分组网络
分组卷积模型的各个分支可以使用不同大小的卷积核，其中典型代表就是SqueezeNet。SqueezeNet是一个非常高效率的模型，它将AlexNet模型压缩到原来1/50，同时保证性能几乎不变。
6 其他
除了以上基本的变种，分组网络还有非常多的新方向，包括：
(1) 多尺度和多感受野分组卷积模型。
(2) 分组可学习的分组卷积模型。
(3) 多精度的分组卷积模型。
(4) 与残差网络的结合。
(5) 其他等等。
以上内容，如果你不想自己学习，可以去我们知识星球的网络结构1000变板块—分组网络板块阅读，纯属自愿，不愿勿喷。
有三AI知识星球
知识星球是有三AI的付费内容社区，里面包括各领域的模型学习，数据集下载，公众号的付费图文原稿，技术总结PPT和视频，知识问答，书籍下载，项目推荐，线下活动等资源，了解详细请阅读以下文章：
转载文章请后台联系
侵权必究