浅层深度学习在精细化少样本学习中仍能大放异彩
摘要
深度学习在广泛的领域中得到广泛应用，包括fine-grained few-shot learning（FGFSL），后者严重依赖深度backbone。尽管如此，浅层深度backbone（如ConvNet-4）并不常被青睐，因为它们容易提取大量非抽象的视觉属性。在本文中，我们初始重新评估网络深度与完全编码少样本实例能力之间的关系，深入探讨浅层深度架构是否能够实现与主流深度backbone相当或更好的性能。以vanilla ConvNet-4为灵感，我们引入了location-aware constellation network（LCN-4），配备了 cutting-edge location-aware feature clustering模块。该模块能够专业地编码和集成空间特征融合、特征聚类和recessive特征位置，从而显著降低整体损失。具体而言，我们创新性地提出了general grid position encoding compensation，以有效解决特定普通卷积在特征提取过程中缺失位置信息的问题。此外，我们进一步提出了general frequency domain location embedding技术，以抵消聚类特征中的位置损失。我们在三个具有代表性的精细化少样本基准上进行了验证。相关实验表明，LCN-4显著优于基于ConvNet-4的State-of-the-Arts方法，并在大多数ResNet12-based方法上实现相当或更好的性能，确认了我们猜想的正确性。
引用
@article{arxiv.2507.22041,
title = {Shallow Deep Learning Can Still Excel in Fine-Grained Few-Shot Learning},
author = {Chaofei Qi and Chao Ye and Zhitai Liu and Weiyang Lin and Jianbin Qiu},
journal= {arXiv preprint arXiv:2507.22041},
year = {2026}
}
备注
This work is currently being redone. It requires significant revisions and polishing. Additionally, the title will also be revised. Therefore, this version is no longer needed.