反思 DARTS 搜索空间并构建新基准
机器学习
2023-06-13 v1
摘要
DARTS 搜索空间（DSS）已成为神经架构搜索（NAS）的标准基准，然而一些新兴工作指出了其精度范围狭窄的问题，并声称这会损害方法排名。我们观察到一些近期研究已经受到该问题困扰，掩盖了分数的意义。在本工作中，我们首次提出并整合一系列改进，以构建一个更大且更难的 DSS，称为 LHD，同时保持搜索的高效性。我们进一步构建基于 LHD 的新基准，兼顾可辨别性与可及性。具体而言，我们重新实现了十二个基线方法，并通过结合两个未被充分探索的影响因素——转导鲁棒性与离散化策略——在十二种条件下对它们进行评估，以基于多条件评估合理构建基准。考虑到表格基准总是不足以充分评估 NAS 方法，我们的工作可作为 NAS 未来进展的关键基础。https://github.com/chaoji90/LHD
引用
@article{arxiv.2306.06852,
title = {Rethink DARTS Search Space and Renovate a New Benchmark},
author = {Jiuling Zhang and Zhiming Ding},
journal= {arXiv preprint arXiv:2306.06852},
year = {2023}
}
备注
Accepted by ICML 2023