GCNet：非局部网络遇见压缩激励网络及超越
计算机视觉与模式识别
2019-04-26 v1 人工智能
机器学习
摘要
非局部网络（NLNet）提出了一种开创性方法，通过聚合特定于查询的全局上下文到每个查询位置来捕获长程依赖。然而，通过严格的实证分析，我们发现非局部网络建模的全局上下文对于图像内不同的查询位置几乎是相同的。本文利用这一发现创建了基于查询无关公式的简化网络，其保持了NLNet的精度但计算量显著减少。我们进一步观察到该简化设计与压缩激励网络（SENet）具有相似结构。因此我们将它们统一为全局上下文建模的三步通用框架。在该通用框架内，我们设计了一个更好的实例，称为全局上下文（GC）块，它轻量且能有效建模全局上下文。轻量特性使我们能将其应用于骨干网络的多个层以构建全局上下文网络（GCNet），其在各种识别任务的主要基准上通常优于简化NLNet和SENet。代码和配置发布于 https://github.com/xvjiarui/GCNet。
引用
@article{arxiv.1904.11492,
title = {GCNet: Non-local Networks Meet Squeeze-Excitation Networks and Beyond},
author = {Yue Cao and Jiarui Xu and Stephen Lin and Fangyun Wei and Han Hu},
journal= {arXiv preprint arXiv:1904.11492},
year = {2019}
}