NJU1healer的个人博客分享 http://blog.sciencenet.cn/u/NJU1healer

博文

转置卷积(transposed convolution)或反卷积(deconvolution)

已有 469 次阅读 2021-4-13 14:57 |个人分类:机器学习|系统分类:科研笔记

(一)概念-什么是反卷积?

      上采样(Upsample)在应用在计算机视觉的深度学习领域,由于输入图像通过卷积神经网络(CNN)提取特征后,输出的尺寸往往会变小,而有时我们需要将图像恢复到原来的尺寸以便进行进一步的计算(e.g.:图像的语义分割),这个采用扩大图像尺寸,实现图像由小分辨率到大分辨率的映射的操作,叫做上采样(Upsample)。

      反卷积(Transposed Convolution):上采样有3种常见的方法:双线性插值(bilinear),反卷积(Transposed Convolution),反池化(Unpooling),我们这里只讨论反卷积。这里指的反卷积,也叫转置卷积,它并不是正向卷积的完全逆过程,用一句话来解释:反卷积是一种特殊的正向卷积,先按照一定的比例通过补0来扩大输入图像的尺寸,接着旋转卷积核,再进行正向卷积。

(二)理解

(1)主要看这篇博客,讲的很透彻形象:

轻松理解转置卷积(transposed convolution)或反卷积(deconvolution)

具体通用公式推导,看这篇博客:

https://www.cnblogs.com/shine-lee/p/11559825.html

https://zhuanlan.zhihu.com/p/48501100

(2)各种卷积动态示意图

https://github.com/vdumoulin/conv_arithmetic

Convolution animations

N.B.: Blue maps are inputs, and cyan maps are outputs.

No padding, no stridesArbitrary padding, no stridesHalf padding, no stridesFull padding, no strides

No padding, stridesPadding, stridesPadding, strides (odd)

Transposed convolution animations

N.B.: Blue maps are inputs, and cyan maps are outputs.

No padding, no strides, transposedArbitrary padding, no strides, transposedHalf padding, no strides, transposedFull padding, no strides, transposed

No padding, strides, transposedPadding, strides, transposedPadding, strides, transposed (odd)

Dilated convolution animations

N.B.: Blue maps are inputs, and cyan maps are outputs.

No padding, no stride, dilation

【参考】

Dumoulin V, Visin F. A guide to convolution arithmetic for deep learning[J]. arXiv preprint arXiv:1603.07285, 2016.

点滴分享,福泽你我!Add oil!



http://wap.sciencenet.cn/blog-3428464-1281774.html

上一篇:语义信息与语义分割
下一篇:扩张卷积或空洞卷积

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2021-6-18 14:58

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部