用于超低位宽超分辨率网络的动态双可训练边界
图像与视频处理
2022-07-05 v3 计算机视觉与模式识别
摘要
轻量级超分辨率（SR）模型因其在移动设备上的可用性而受到相当关注。许多工作采用网络量化来压缩SR模型。然而，当使用低成本逐层量化器将SR模型量化为超低位宽（如2-bit和3-bit）时，这些方法面临严重的性能退化。本文中，我们指出性能下降源于逐层对称量化器与SR模型中高度非对称激活分布之间的矛盾。这种差异导致量化电平的浪费或重建图像中的细节丢失。因此，我们提出一种新颖的激活量化器，称为动态双可训练边界（DDTB），以适应激活的非对称性。具体而言，DDTB的创新在于：1）具有可训练上下界的逐层量化器，以应对高度非对称的激活；2）动态门控控制器，在运行时自适应调整上下界，以克服不同样本间剧烈变化的激活范围。为减少额外开销，动态门控控制器被量化为2-bit，并根据引入的动态强度仅应用于部分SR网络。大量实验表明，我们的DDTB在超低位宽下展现出显著的性能提升。例如，在Urban100基准上将EDSR量化为2-bit且输出图像放大x4时，我们的DDTB取得了0.70dB PSNR的提升。代码见 \url{https://github.com/zysxmu/DDTB}。
引用
@article{arxiv.2203.03844,
title = {Dynamic Dual Trainable Bounds for Ultra-low Precision Super-Resolution Networks},
author = {Yunshan Zhong and Mingbao Lin and Xunchao Li and Ke Li and Yunhang Shen and Fei Chao and Yongjian Wu and Rongrong Ji},
journal= {arXiv preprint arXiv:2203.03844},
year = {2022}
}
备注
ECCV2022