多路径神经网络中精度与延迟的权衡
机器学习
2021-04-27 v1
摘要
神经网络不断增长的能力规模显著推动了其在复杂机器学习任务上的成功，而这般大型模型的计算需求又反过来促进了加速其计算所需硬件的显著进步。然而，高延迟模型并不适用于手持设备和 IoT 设备等资源受限环境。因此，许多深度学习技术旨在通过开发在合理精度下且不违反资源受限约束的模型来解决此问题。本工作中，我们使用一次性神经架构搜索模型来隐式评估数量难以处理的众多多路径神经网络的性能。将该架构搜索与剪枝技术及架构样本评估相结合，我们能够对具有梯度复杂度的模型谱中精度与延迟之间的关系进行建模。我们表明，我们的方法能准确建模不同延迟模型间的相对性能，并以良好精度跨不同数据集预测未见模型的性能。
引用
@article{arxiv.2104.12040,
title = {Balancing Accuracy and Latency in Multipath Neural Networks},
author = {Mohammed Amer and Tomás Maul and Iman Yi Liao},
journal= {arXiv preprint arXiv:2104.12040},
year = {2021}
}