反卷积相关论文理解

 

反卷积相对于卷积在神经网络结构的正向和反向传播中做相反的运算，但就其本质而言应该称为转置卷积，也就是正向时左乘，而反向时左乘。

注：转置卷积只能还原shape大小，不能还原value.，也就是说通过反卷积进行图像重构所还原的仅仅是原图像的近似。

 

Deconv相关论文

 

1. Devolution Networks

 

Devolution Networks利用反卷积做图片的unsupervised feature learning，主要用于学习图片的中低层级的特征表示。

这里的deconv只是观念上和传统的conv反向，传统的conv是从图片生成feature map，而deconv是用unsupervised的方法找到一组kernel和feature map，让它们重建图片。

                 

2. Adaptive Deconvolutional Networks for Mid and High Level Feature Learning

 

提出一种学习图像representations的方法，它以无监督的方式从低级边缘到高级对象部分的所有尺度中提取结构，以原始像素作为target学习，也就说采用的是end to end 的学习，反卷积仍然用于无监督学习，主要用来学习图片的中高层级的特征显示。

和上一篇不同的是加入了pooling，unpooling，deconv(transpose conv，deconv的参数只是原卷积的转置，并不原卷积的可逆运算)。这篇文章才是可视化常用的反卷积，

 

3. Visualizing and Understanding Convolutional Networks（CNN可视化）

 

Visualizing and Understanding Convolutional Networks利用反卷积实现特征可视化，没有学习训练的过程。

它是将CNN学习到的feature map用到的这些feature map的卷积核，取转置，将图片特征从feature map空间转化到pixel空间，以发现是哪些pixel激活了特定的feature map，达到分析理解CNN的目的。

注：反卷积可视化以各层得到的特征图作为输入，进行反卷积，得到反卷积结果，用以验证显示各层提取到的特征图。

可视化网络结构

网络的整个过程，从右边开始