WeightNet：重新审视权重网络的设计空间
计算机视觉与模式识别
2020-07-27 v2
摘要
我们提出一个概念上简单、灵活且高效的权重生成网络框架。我们的方法具有通用性，将当前两种截然不同且极为有效的 SENet 与 CondConv 统一到权重空间上的同一框架中。该方法称为 WeightNet，通过仅在注意力激活层上简单增加一个分组全连接层来推广这两种方法。我们使用完全由（分组）全连接层构成的 WeightNet 直接输出卷积权重。WeightNet 易于训练且节省内存，其在核空间而非特征空间上进行。得益于灵活性，我们的方法在 ImageNet 与 COCO 检测任务上均优于现有方法，取得了更优的精度-FLOPs 与精度-参数量权衡。这一灵活权重空间上的框架具有进一步提升性能的潜力。代码见 https://github.com/megvii-model/WeightNet。
引用
@article{arxiv.2007.11823,
title = {WeightNet: Revisiting the Design Space of Weight Networks},
author = {Ningning Ma and Xiangyu Zhang and Jiawei Huang and Jian Sun},
journal= {arXiv preprint arXiv:2007.11823},
year = {2020}
}
备注
ECCV 2020