基于矩阵分解重新审视动态卷积
计算机视觉与模式识别
2021-03-17 v1
摘要
近期关于动态卷积的研究表明，由于对 K 个静态卷积核的自适应聚合，高效 CNN 取得了显著的性能提升。它有两个局限：(a) 将卷积权重量增加了 K 倍；(b) 动态注意力与静态卷积核的联合优化具有挑战性。本文从矩阵分解的新视角重新审视该问题，并揭示其关键在于动态卷积在投影到更高维潜空间后，对通道组施加动态注意力。为解决此问题，我们提出动态通道融合以替代通道组上的动态注意力。动态通道融合不仅实现了潜空间维度的显著缩减，还缓解了联合优化的困难。因此，我们的方法更易于训练，且在精度不损的前提下所需参数量大幅减少。源代码见 https://github.com/liyunsheng13/dcd。
引用
@article{arxiv.2103.08756,
title = {Revisiting Dynamic Convolution via Matrix Decomposition},
author = {Yunsheng Li and Yinpeng Chen and Xiyang Dai and Mengchen Liu and Dongdong Chen and Ye Yu and Lu Yuan and Zicheng Liu and Mei Chen and Nuno Vasconcelos},
journal= {arXiv preprint arXiv:2103.08756},
year = {2021}
}
备注
Accepted by ICLR 2021