基于连续编码的高效多保真度多目标神经网络结构搜索表示
机器学习
2025-09-03 v1 人工智能
摘要
神经网络结构搜索（NAS）是一种自动化设计优化体系结构的吸引力方法，但在针对多个重要且相互冲突的目标进行优化时，受限于高计算预算。为此，提出一种自适应的 Co-Kriging 辅助多保真度多目标 NAS 算法，通过引入基于聚类的局部多保真度填充抽样策略来进一步降低NAS的计算成本，实现对搜索空间的高效探索以加快收敛速度。该算法通过一种新颖的连续编码方法来表示每个 cell 中节点的连接关系，这种编码方法基于通用的 cell-based U-Net 主干网络，进而减少了搜索维度（变量数量）。结果表明，在三个数值基准测试中（包括2D Darcy 流回归问题和CHASE_DB1生物医学图像分割问题），在有限计算预算下，所提出的NAS算法超越了以往发表的领先方法。随后，该方法被用于创建用于城市建模的风速回归模型，该模型能够以较低的计算复杂度实现良好的预测。进一步分析表明，NAS算法独立识别了支配优越U-Net体系结构的原理，例如每个 cell Incorporate 信息来自先前 cell 的重要性。
引用
@article{arxiv.2509.01943,
title = {A Continuous Encoding-Based Representation for Efficient Multi-Fidelity Multi-Objective Neural Architecture Search},
author = {Zhao Wei and Chin Chun Ooi and Yew-Soon Ong},
journal= {arXiv preprint arXiv:2509.01943},
year = {2025}
}