AttoNets：通过人机协同设计面向边缘设备的紧凑高效深度神经网络
计算机视觉与模式识别
2019-04-16 v2 神经与进化计算
摘要
尽管深度神经网络已在大量复杂任务上取得最先进的性能，但将此类网络部署于实际的、设备端边缘场景（如移动设备、消费设备、无人机和车辆）仍是一大挑战。在本研究中，我们深入探索一种人机协同设计方法，通过有原则的网络设计原型与机器驱动设计探索之间的协同来创建高效深度神经网络。人机协同设计的有效性通过创建 AttoNets 得以证明，这是一系列面向设备端边缘深度学习的高效深度神经网络。每个 AttoNet 拥有由人指定的网络级宏架构，其由具有独特机器设计的模块级宏架构与微架构设计的定制模块构成，且全部由人指定的设计要求所驱动。针对物体识别任务的实验结果表明，通过人机协同设计创建的 AttoNets 比专为效率设计的最先进网络参数与计算成本显著更少，同时准确率明显更高（最小的 AttoNet 准确率约高出 1.8%，而所需乘加运算与参数比 MobileNet-V1 少约 10 倍）。此外，AttoNets 在实例级物体分割与物体检测任务上的有效性也得到了证明：基于此构建了 AttoNet 版的 Mask R-CNN 网络，其参数与计算成本（乘加运算约少 5 倍、参数约少 2 倍）显著低于基于 ResNet-50 的 Mask R-CNN 网络。
引用
@article{arxiv.1903.07209,
title = {AttoNets: Compact and Efficient Deep Neural Networks for the Edge via Human-Machine Collaborative Design},
author = {Alexander Wong and Zhong Qiu Lin and Brendan Chwyl},
journal= {arXiv preprint arXiv:1903.07209},
year = {2019}
}
备注
15 pages