全局上下文网络
计算机视觉与模式识别
2020-12-25 v1
摘要
非局部网络（NLNet）提出了一种开创性方法，通过聚合特定查询的全局上下文到每个查询位置来捕获图像内的长程依赖。然而，通过严谨的实证分析，我们发现非局部网络建模的全局上下文对不同查询位置几乎相同。本文利用这一发现创建了基于查询无关公式的简化网络，其在保持NLNet精度的同时显著减少计算量。我们进一步将非局部块的一层变换函数替换为两层瓶颈结构，进一步大幅减少参数量。所得网络单元称为全局上下文（GC）块，以轻量方式有效建模全局上下文，可应用于骨干网络多层以形成全局上下文网络（GCNet）。实验表明，在多种识别任务的主要基准上GCNet总体优于NLNet。代码与网络配置见https://github.com/xvjiarui/GCNet。
引用
@article{arxiv.2012.13375,
title = {Global Context Networks},
author = {Yue Cao and Jiarui Xu and Stephen Lin and Fangyun Wei and Han Hu},
journal= {arXiv preprint arXiv:2012.13375},
year = {2020}
}
备注
To appear in TPAMI. Full version of GCNet: Non-local Networks Meet Squeeze-Excitation Networks and Beyond (arXiv:1904.11492)