QuickNet：深度架构中效率与效能的最大化
机器学习
2017-01-13 v2 机器学习
摘要
我们提出QuickNet，一种快速且准确的网络架构，它比其他快速深度架构（如SqueezeNet）更快且显著更准确。此外，它比先前网络使用更少的参数，从而内存效率更高。我们通过参考Darknet模型（Redmon等人，2015）的两项主要修改实现这一点：1）使用深度可分离卷积；2）使用参数化修正线性单元。我们观察到参数化修正线性单元在测试时计算上等价于带泄漏的修正线性单元，并且可分离卷积可解释为压缩的Inception网络（Chollet，2016）。利用这些观察，我们推导出一种称为QuickNet的网络架构，它比先前模型更快且更准确。我们的架构至少提供四大优势：（1）更小的模型尺寸，在内存受限系统上更可行；（2）显著更快的网络，在计算受限系统上更可行；（3）在CIFAR-10数据集上95.7%的高准确率，优于迄今发表的所有结果仅除一个外，尽管我们注意到我们的工作是正交方法且可结合；（4）与先前的模型压缩方法正交，允许实现进一步的速度提升。
引用
@article{arxiv.1701.02291,
title = {QuickNet: Maximizing Efficiency and Efficacy in Deep Architectures},
author = {Tapabrata Ghosh},
journal= {arXiv preprint arXiv:1701.02291},
year = {2017}
}
备注
Updated once