用于图像处理网络稳定高效连续层级学习的正则化自适应方法
计算机视觉与模式识别
2020-03-13 v2
摘要
在基于卷积神经网络（CNN）的图像处理中，大多数研究提出针对单一层级（或单一目标）优化的网络；因此，它们在其他层级上表现不佳，且必须重新训练以提供最优性能。使用多个模型覆盖多个层级涉及极高的计算成本。为解决这些问题，近期方法在两个不同层级上训练网络，并提出了各自的插值方法以实现任意中间层级。然而，其中许多方法无法适应困难任务或平滑插值，或者其他方法仍需要较大的内存与计算成本。在本文中，我们提出了一种新颖的连续层级学习框架，使用滤波器过渡网络（FTN）——一个可轻松适应新层级并被正则化以防止不良副作用的非线性模块。此外，为稳定学习 FTN，我们新提出了一种用恒等映射初始化非线性 CNN 的方法。进一步地，FTN 是极轻量的模块，因为它是一个数据无关模块，这意味着它不受输入空间分辨率的影响。针对各种图像处理任务的广泛结果表明，FTN 在自适应与插值方面的性能稳定，且与其他重型框架相当。
引用
@article{arxiv.2003.05145,
title = {Regularized Adaptation for Stable and Efficient Continuous-Level Learning on Image Processing Networks},
author = {Hyeongmin Lee and Taeoh Kim and Hanbin Son and Sangwook Baek and Minsu Cheon and Sangyoun Lee},
journal= {arXiv preprint arXiv:2003.05145},
year = {2020}
}