CSCO：卷积算子的连通性搜索
计算机视觉与模式识别
2025-03-26 v2
摘要
探索卷积算子的密集连通性建立了关键的“突触”，以沟通来自不同级别的特征向量，并丰富了计算机视觉应用中的变换集合。然而，即使采用神经架构搜索（NAS）等重型机制，由于受限的连通性设计空间或无约束搜索空间导致的次优探索过程，发现有效的连通性模式仍需要巨大的努力。在本文中，我们提出了 CSCO，一种新范式，以最少利用现有设计 motifs 来构造卷积算子的有效连通性，并进一步利用发现的布线来构建高性能的 ConvNets。CSCO 通过神经预测器作为真实性能的代理来指导探索。我们引入图同构作为数据增强以提高样本效率，并提出 Metropolis-Hastings 进化搜索（MH-ES）以避开局部最优架构并提升搜索质量。在 ImageNet 上的结果表明，相比手工设计和 NAS 设计的密集连通性，性能提升了约 0.6%。我们的代码已公开。
引用
@article{arxiv.2404.17152,
title = {CSCO: Connectivity Search of Convolutional Operators},
author = {Tunhou Zhang and Shiyu Li and Hsin-Pai Cheng and Feng Yan and Hai Li and Yiran Chen},
journal= {arXiv preprint arXiv:2404.17152},
year = {2025}
}
备注
Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) Workshops (2024)