DenseNets 重载：超越 ResNets 与 ViTs 的范式转变
计算机视觉与模式识别
2024-08-08 v2 机器学习
神经与进化计算
摘要
本文重新激活了密集连接卷积网络，并揭示了其在主流 ResNet 风格架构上被低估的有效性。我们认为，由于未触及的训练方法和传统设计元素未能充分展现其能力，DenseNets 的潜力被忽视了。我们的初步研究表明，通过拼接实现的密集连接具有很强的竞争力，这表明 DenseNets 可以被重新激活以与现代架构竞争。我们系统地改进了次优组件——包括架构调整、模块重设计以及改进的训练策略，旨在拓宽 DenseNets 并提升内存效率，同时保留拼接捷径。我们的模型采用了简单的架构元素，最终超越了 Swin Transformer、ConvNeXt 和 DeiT-III——这些是残差学习谱系中的关键架构。此外，我们的模型在 ImageNet-1K 上展现出接近 SOTA 的性能，可与最新的模型在下游任务、ADE20k 语义分割和 COCO 目标检测/实例分割中相竞争。最后，我们提供了实证分析，揭示了拼接相对于加法捷径的优势，引导人们重新青睐 DenseNet 风格的设计。我们的代码可在 https://github.com/naver-ai/rdnet 获取。
引用
@article{arxiv.2403.19588,
title = {DenseNets Reloaded: Paradigm Shift Beyond ResNets and ViTs},
author = {Donghyun Kim and Byeongho Heo and Dongyoon Han},
journal= {arXiv preprint arXiv:2403.19588},
year = {2024}
}
备注
ECCV 2024. Code at https://github.com/naver-ai/rdnet