零成本代理的评估——从神经架构性能到模型鲁棒性
机器学习
2023-07-19 v1 计算机视觉与模式识别
摘要
零成本代理（zero-cost proxies）如今被频繁研究并用于搜索神经架构。它们展现出利用未训练权重预测架构性能的惊人能力，这些技术带来了巨大的搜索加速。迄今为止，对性能良好且鲁棒架构的联合搜索在 NAS 领域受到的关注少得多。因此，零成本代理的主要焦点是架构的干净准确率，而模型鲁棒性本应同等重要。在本文中，我们分析了常见零成本代理在流行的 NAS-Bench-201 搜索空间中作为鲁棒性性能预测器的能力。我们关注鲁棒性的单一预测任务以及干净准确率与鲁棒准确率的联合多目标。我们进一步分析了各代理的特征重要性，并表明预测鲁棒性使现有零成本代理的预测任务更具挑战性。结果表明，预测模型鲁棒性有必要联合考虑多个代理，而干净准确率可由单个此类特征回归得到。
引用
@article{arxiv.2307.09365,
title = {An Evaluation of Zero-Cost Proxies -- from Neural Architecture Performance to Model Robustness},
author = {Jovita Lukasik and Michael Moeller and Margret Keuper},
journal= {arXiv preprint arXiv:2307.09365},
year = {2023}
}
备注
Accepted at DAGM GCPR 2023