xUnit：一种用于高效图像复原的空间激活函数
计算机视觉与模式识别
2018-03-28 v3 机器学习
摘要
近年来，深度神经网络（DNNs）在许多底层视觉任务中取得了前所未有的性能。然而，最先进的结果通常由非常深的网络实现，这些网络可达数十层，拥有数千万参数。为使DNNs能在资源受限平台上实现，有必要弱化性能与效率之间的权衡。本文提出一种新的激活单元，特别适用于图像复原问题。与广泛使用的逐像素激活单元（如ReLUs和sigmoids）不同，我们的单元实现了具有空间连接的可学习非线性函数。这使网络能捕捉更复杂的特征，从而显著减少达到相同性能所需的层数。我们通过最先进的去噪、去雨和超分辨率网络实验来说明我们单元的有效性，这些网络已被认为非常小。借助我们的方法，能够将这些模型进一步缩减近50%，且不造成任何性能下降。
引用
@article{arxiv.1711.06445,
title = {xUnit: Learning a Spatial Activation Function for Efficient Image Restoration},
author = {Idan Kligvasser and Tamar Rott Shaham and Tomer Michaeli},
journal= {arXiv preprint arXiv:1711.06445},
year = {2018}
}
备注
Conference on Computer Vision and Pattern Recognition (CVPR), 2018