重新审视长尾学习:来自架构视角的洞见
计算机视觉与模式识别
2025-11-18 v4 人工智能
摘要
长尾(LT)识别已被广泛研究,以应对真实应用中数据分布不均衡的挑战。然而,针对LT设置下的神经网络架构设计受到的关注有限,尽管有证据表明架构选择会显著影响性能。本文旨在弥合LT挑战与神经网络设计之间的差距,深入分析各种架构如何影响LT性能。具体而言,我们系统地考察了关键网络组件对LT处理的影响,如拓扑结构、卷积和激活函数。基于这些观察,我们提出了两种针对性能优化设计的卷积操作。认识到操作交互对网络有效性也至关重要,我们应用神经架构搜索(NAS)来促进高效探索。我们提出了LT-DARTS,一种专门针对LT数据设计的、具有新颖搜索空间和搜索策略的NAS方法。实验结果表明,我们的方法在多个LT数据集上持续优于现有架构,在与当前LT方法集成时实现了参数高效的最先进结果。
引用
@article{arxiv.2411.06098,
title = {Revisiting Long-Tailed Learning: Insights from an Architectural Perspective},
author = {Yuhan Pan and Yanan Sun and Wei Gong},
journal= {arXiv preprint arXiv:2411.06098},
year = {2025}
}
备注
Accepted by CIKM2025