用于可复现架构改进的可微神经架构变换
机器学习
2021-10-20 v1 计算机视觉与模式识别
机器学习
摘要
近年来，神经架构搜索(Neural Architecture Search, NAS)方法被提出，并在许多基准上展现出令人印象深刻的性能。在这些 NAS 研究中，神经架构变换器(Neural Architecture Transformer, NAT)旨在改进给定的神经架构以获得更好性能，同时保持计算成本。然而，NAT 存在缺乏可复现性的局限。本文中，我们提出可复现且高效的可微神经架构变换。所提方法在各种架构上表现出稳定性能。在 CIFAR-10 和 Tiny Imagenet 两个数据集上的大量可复现性实验表明，该方法明确优于 NAT，并且可应用于其他模型与数据集。
引用
@article{arxiv.2006.08231,
title = {Differentiable Neural Architecture Transformation for Reproducible Architecture Improvement},
author = {Do-Guk Kim and Heung-Chang Lee},
journal= {arXiv preprint arXiv:2006.08231},
year = {2021}
}