HarDNet：一种低内存流量网络
计算机视觉与模式识别
2019-09-04 v1
摘要
ResNet、MobileNet 和 DenseNet 等最先进的神经网络架构在较低 MACs 和较小模型尺寸下取得了优异的精度。然而，这些指标可能无法准确预测推理时间。我们指出，访问中间特征图的内存流量可能是主导推理延迟的一个因素，尤其是在高分辨率视频的实时目标检测和语义分割等任务中。我们提出了一种谐波密集连接网络（Harmonic Densely Connected Network），以在较低 MACs 和内存流量方面实现高效率。与 FC-DenseNet-103、DenseNet-264、ResNet-50、ResNet-152 和 SSD-VGG 相比，新网络分别实现了 35%、36%、30%、32% 和 45% 的推理时间缩减。我们使用 Nvidia profiler 和 ARM Scale-Sim 等工具测量内存流量，并验证推理延迟确实与内存流量消耗成正比，且所提网络消耗较低的内存流量。我们得出结论，在为边缘端高分辨率应用设计神经网络架构时，应将内存流量纳入考虑。
引用
@article{arxiv.1909.00948,
title = {HarDNet: A Low Memory Traffic Network},
author = {Ping Chao and Chao-Yang Kao and Yu-Shan Ruan and Chien-Hsiang Huang and Youn-Long Lin},
journal= {arXiv preprint arXiv:1909.00948},
year = {2019}
}
备注
ICCV 2019