MIDAS：基于 mosaic 输入特性的可微架构搜索
机器学习
2026-02-23 v1 人工智能
神经与进化计算
摘要
可微分神经网络架构搜索 (NAS) 提供了高效的梯度方法用于自动设计神经网络，但其实际应用仍有限。我们提出了 MIDAS，一种新方法通过用动态、输入特定的参数（通过自注意力计算）取代静态架构参数来现代化 DARTS。为提高鲁棒性，MIDAS (i) 通过为激活图的每个空间 patch 分别计算体系结构选择来局部化，以及 (ii) 引入一种无参数的、基于拓扑感知的搜索空间，用于建模节点连接并简化选择每个节点的两个 incoming 边。我们在 DARTS、NAS-Bench-201 和 RDARTS 搜索空间上评估了 MIDAS。在 DARTS 上，它在 CIFAR-10 上达到 97.42% 的 top-1 准确率，在 CIFAR-100 上达到 83.38%。在 NAS-Bench-201 上，它始终找到全局最优架构。在 RDARTS 上，它在 CIFAR-10 上的四个搜索空间中的两个上设下了最新纪录。我们进一步分析了 MIDAS 工作的原因，表明 patchwise 注意力提高了对备选操作的辨识度，结果输入特定参数分布具有 class-aware 特性且主要单峰，为解码提供可靠指导。
引用
@article{arxiv.2602.17700,
title = {MIDAS: Mosaic Input-Specific Differentiable Architecture Search},
author = {Konstanty Subbotko},
journal= {arXiv preprint arXiv:2602.17700},
year = {2026}
}