ResNet结构详解
- ResNet的层数34,50,101到底指什么？
- 首先看ResNet34的对比图
- 然后再看这个表
- ResNet 到底是个什么结构
- ResNet-34
- 虚线结构
- ResNet-50
- 第一种：只用于conv2_1
- 第二种：所有的Block中的非第一个
- 第三种：conv3_1和conv4_1和conv5_1
- 总结
- 参考
ResNet的层数34,50,101到底指什么？
答案并不直接，得分两步来看。
首先看ResNet34的对比图
不用看细节，也不用自己数。
这里的34层实际上是指左面的“34-layer-plain”中有34个层需要有可训练参数（卷积层和全连接层）。那么直接对比过来，ResNet34是指除去残差连接中的卷积层中的卷积层和全连接层。
你可能会问，残差连接不就一条线吗，哪来的可训练参数？但事实是，实线处没有，虚线处是有卷积层的，为了保证尺度相等。
然后再看这个表
以34为例，34=1+2*（3+4+6+3）+1。
也就是，最上面的多少层是在不考虑残差连接层中的卷积层下，数出来“plain结构”中的可训练网络层，包含卷积层和全连接层；而不是ResNet中所有的可训练网络层。
这一点搞了好久才搞清楚。
ResNet 到底是个什么结构
你可能像我一样天真地认为，不就一个残差连接吗？那么好，有以下两个问题：（1）尺度不同怎么相加（2）如果采用Padding，具体参数是多少，是否一样？
事实上，ResNet-34和ResNet-50的基础结构是不一样的，这一点论文中明确指出了
ResNet-34
残差结构是这个样子，和表中可以明显的对应，也对应第一张图中的实线连接结构。
让我们具体一点，紫色代表卷积层。这里为了通用性，没有画输入输出通道数。
虚线结构
比如ResNet34的Conv2_x的第一个卷积块，这里直接记为Conv3_1。它的输入是[56,56,64]（可根据conv2_x的输出[112,112,64]计算得到），但是Conv3_1的输出是[28,28,128]，维度不相等没有办直接相加，因此，添加了一个卷积层。
具体一点，
有这两个结构以后就可以搭建整个网络了。
ResNet-50
有了ResNet34的分析，再看这个就简单了。但是有一个不同在于一个残差单元内，ResNet50的维度发生了变化，比如从64到128。所以出现了三种不同的结构。
第一种：只用于conv2_1
第二种：所有的Block中的非第一个
以Conv2_2为例
第三种：conv3_1和conv4_1和conv5_1
相当于ResNet34的虚线结构，以conv3_1为例。此处以代码实现版本为准。需要同时处理尺度和维度的变化。
以下是代码作者的注释
注意：原论文中，在虚线残差结构的主分支上，第一个1x1卷积层的步距是2，第二个3x3卷积层步距是1。
但在pytorch官方实现过程中是第一个1x1卷积层的步距是1，第二个3x3卷积层步距是2，
这么做的好处是能够在top1上提升大概0.5%的准确率。
可参考Resnet v1.5
https://ngc.nvidia.com/catalog/modelscripts/nvidia:resnet_50_v1_5_for_pytorch总结
- 当通道需要增加或者H和W需要减半时，残差连接中是有卷积层的，卷积核1*1，步长为2，填充为0。
- 整个网络，无论主分支还是残差连接，在进行H和W减半时，是依赖的stride=2完成的。而padding只是负责当stride=1时，保证输入输出H和W相等。
- 回过头来看那张表，至少隐去了残差连接中的卷积层等相关信息，变成了笼统的将一个结构复制几遍。padding，stride，in_channel，out_channel等重要信息，需要自行补充后，才能搭建网络。
