SIPA:一种用于高效网络的简单框架
机器学习
2021-03-04 v1
摘要
随着深度学习在各领域的成功以及众多物联网(IoT)设备的出现,精简适用于低功耗设备的模型变得至关重要。顺应这一趋势,MicroNet Challenge 于 NeurIPS 2019 举办,该挑战旨在从存储和计算两方面构建高效模型。为通过此挑战开发高效模型,我们提出了一个名为 SIPA 的框架,包含四个阶段:搜索(Searching)、改进(Improving)、剪枝(Pruning)和加速(Accelerating)。借助所提框架,我们的团队 OSI AI 相比 WideResNet-28-10 压缩了 334 倍的参数存储和 357 倍的数学运算,并在 MicroNet Challenge 2019 的 CIFAR-100 赛道中以排名前 10% 的高效计算获得第四名。我们的源代码可从 https://github.com/Lee-Gihun/MicroNet_OSI-AI 获取。
引用
@article{arxiv.2004.14476,
title = {SIPA: A Simple Framework for Efficient Networks},
author = {Gihun Lee and Sangmin Bae and Jaehoon Oh and Se-Young Yun},
journal= {arXiv preprint arXiv:2004.14476},
year = {2021}
}
备注
14 pages, 9 figures