SquishedNets：通过深度进化合成进一步压缩 SqueezeNet 以适配边缘设备场景
神经与进化计算
2017-11-21 v1 人工智能
机器学习
摘要
尽管近年来深度神经网络已被证明在广泛应用上优于其他机器学习方法，但使深度神经网络在移动和其他消费设备等边缘设备上广泛部署的最大挑战之一是高计算和内存需求。最近，人们对更适合边缘设备的小型深度神经网络架构进行了更多探索，其中最流行的架构之一是 SqueezeNet，其模型大小仅为 4.8MB。利用边缘设备上机器学习的许多应用通常以较少目标类别数为特征这一观念，本研究探讨了结合架构修改和进化合成策略，基于较新的 SqueezeNet v1.1 宏架构为具有较少目标类别的应用合成更小的深度神经架构的效用。具体而言，首先对 SqueezeNet v1.1 进行架构修改以适配 10 类 ImageNet-10 数据集，然后利用进化合成策略基于该修改后的宏架构合成更高效的深度神经网络。所得的 SquishedNets 模型大小范围为 2.4MB 至 0.95MB（比 SqueezeNet v1.1 小约 5.17 倍，比 AlexNet 小 253 倍）。此外，SquishedNets 仍能达到 81.2% 至 77% 的准确率，并能在 Nvidia Jetson TX1 嵌入式芯片上以 156 张图像/秒至高达 256 张图像/秒的速度处理。这些初步结果表明，架构修改与进化合成策略的结合可成为生成非常适合边缘设备场景的极小深度神经网络架构的有用工具。
引用
@article{arxiv.1711.07459,
title = {SquishedNets: Squishing SqueezeNet further for edge device scenarios via deep evolutionary synthesis},
author = {Mohammad Javad Shafiee and Francis Li and Brendan Chwyl and Alexander Wong},
journal= {arXiv preprint arXiv:1711.07459},
year = {2017}
}
备注
4 pages