条件式神经架构搜索
机器学习
2020-06-09 v1 机器学习
摘要
由于多样化的性能、功耗与内存预算，设计资源高效的深度神经网络（DNN）对于在边缘平台上部署深度学习方案至关重要。不幸的是，训练良好的机器学习模型常常不符合边缘平台部署约束，导致漫长的模型压缩与重训练迭代过程。此外，为平台 A 优化的机器学习模型在部署到另一平台 B 时往往不适用，引发又一轮模型重训练。我们提出一种使用 GAN 的条件式神经架构搜索方法，其为不同平台生成可行的机器学习模型。我们提出生成约束优化 DNN 模型的新工作流。这是首个将条件与对抗技术引入神经架构搜索领域的工作。我们在回归问题与 CIFAR-10 分类上验证了该方法。所提工作流能成功生成资源优化的基于 MLP 或 CNN 的网络。
引用
@article{arxiv.2006.03969,
title = {Conditional Neural Architecture Search},
author = {Sheng-Chun Kao and Arun Ramamurthy and Reed Williams and Tushar Krishna},
journal= {arXiv preprint arXiv:2006.03969},
year = {2020}
}