AdaDM:为图像超分辨率引入归一化
图像与视频处理
2021-11-30 v1 计算机视觉与模式识别
机器学习
摘要
批归一化(BN)之类的归一化是深度学习中对中间层分布进行归一化的一项里程碑技术,可实现更快训练与更好的泛化精度。然而,在保真度图像超分辨率(SR)中,被认为归一化层通过归一化特征而消除了范围灵活性,因而被直接从现代SR网络中移除。本文从定量与定性两方面研究了该现象。我们发现残差特征的标准差在归一化层之后大幅收缩,这导致了SR网络的性能下降。标准差反映了像素值的变化量。当变化变小时,边缘对网络而言将变得较难分辨。为解决此问题,我们提出自适应偏差调制器(AdaDM),其中自适应预测一个调制因子以放大像素偏差。为获得更好的泛化性能,我们在最先进SR网络中应用BN并配合所提AdaDM。同时,AdaDM中的偏差放大策略使特征中的边缘信息更具可分辨性。因此,带有BN及我们AdaDM的SR网络在基准数据集上可获得大幅性能提升。已开展大量实验以证明本方法的有效性。
引用
@article{arxiv.2111.13905,
title = {AdaDM: Enabling Normalization for Image Super-Resolution},
author = {Jie Liu and Jie Tang and Gangshan Wu},
journal= {arXiv preprint arXiv:2111.13905},
year = {2021}
}