GroSS:用于分组架构搜索的组大小级数分解
机器学习
2020-07-17 v3 机器学习
摘要
我们提出一种能够探索神经网络中分组卷积配置的新方法。组大小级数(GroSS)分解是将张量分解为一系列递增秩项近似的数学表述。GroSS允许对分解秩进行动态且可微的选择,这类似于分组卷积。因此,据我们所知,GroSS是首个能够在一层内同时训练不同组数以及层间所有可能组合的方法。由此,GroSS能够并发训练整个分组卷积架构搜索空间。我们通过在多个数据集和网络上以性能为目标进行架构搜索展示了这一点。GroSS实现了对分组卷积架构更有效且更高效的搜索。
引用
@article{arxiv.1912.00673,
title = {GroSS: Group-Size Series Decomposition for Grouped Architecture Search},
author = {Henry Howard-Jenkins and Yiwen Li and Victor A. Prisacariu},
journal= {arXiv preprint arXiv:1912.00673},
year = {2020}
}
备注
Accepted for publication at ECCV 2020