加法神经网络用于目标检测的实证研究
计算机视觉与模式识别
2021-12-28 v1
摘要
加法神经网络(AdderNets)仅使用加法操作就在图像分类上展现了令人印象深刻的性能,其比基于乘法构建的传统卷积神经网络更具能效。与分类相比,通过AdderNets降低现代目标检测器能耗的需求在自动驾驶和人脸检测等真实应用场景中十分强烈。本文中,我们给出了加法神经网络用于目标检测的实证研究。我们首先揭示,预训练加法骨干网络中的批归一化统计量不应被冻结,因为AdderNets的特征方差相对较大。此外,我们在neck部分插入了更多的快捷连接,并设计了一种新的特征融合架构以避免加法层的稀疏特征。我们给出了大量的消融实验来探索加法检测器的若干设计选择。在COCO和PASCAL VOC基准上与最先进方法进行了比较。具体而言,所提出的Adder FCOS在COCO val集上达到了37.8\% AP,展现出与卷积对应模型相当的性能,同时能耗降低约。
引用
@article{arxiv.2112.13608,
title = {An Empirical Study of Adder Neural Networks for Object Detection},
author = {Xinghao Chen and Chang Xu and Minjing Dong and Chunjing Xu and Yunhe Wang},
journal= {arXiv preprint arXiv:2112.13608},
year = {2021}
}