超交互神经网络
计算机视觉与模式识别
2019-05-30 v1
摘要
近期研究表明，卷积网络严重依赖于所生成特征的质量与数量。然而，在轻量级网络中，由于效率考量这些网络往往更浅更窄，可用的特征信息有限。为了进一步提升轻量级网络的性能与精度，我们从新颖的视角提出了超交互神经网络（SINet）模型：增强神经网络中的信息交互。为了实现沿深度网络宽度的信息交互，我们提出交换捷径连接，其能在不引入任何额外计算成本的情况下整合来自不同卷积组的信息。进而，为了实现沿网络深度的信息交互，我们提出了密集漏斗层和基于注意力的分层联合决策，它们能够充分利用中间层特征。我们的实验表明，在 ImageNet 数据集上 SINet 优于其他最先进的轻量级模型。此外，我们通过消融研究也展示了所提组件的有效性与通用性。
引用
@article{arxiv.1905.12349,
title = {Super Interaction Neural Network},
author = {Yang Yao and Xu Zhang and Baile Xu and Furao Shen and Jian Zhao},
journal= {arXiv preprint arXiv:1905.12349},
year = {2019}
}