中文

MFI-ResNet:基于 MeanFlow 压缩和选择性孕育的高效 ResNet 架构优化

计算机视觉与模式识别 2025-11-18 v1 人工智能

摘要

ResNet 由于其残差连接机制在计算机视觉领域取得了巨大成功。ResNet 可视为常微分方程(ODE)的离散形式。从这一角度看,单个 ResNet 阶段内的多个残差块本质上执行该阶段特征变换的多步离散迭代。最近提出的流匹配模型 MeanFlow 通过学习均值速度场来实现单步骤生成建模。灵感来自此, 我们提出了 MeanFlow-孕育 ResNet(MFI-ResNet),采用压缩-扩张策略在提高参数效率和判别性能方面发挥协同作用。在压缩阶段,我们将每个 ResNet 阶段内的多层结构简化为一个或两个 MeanFlow 模块,以构建一个轻量级元模型。在扩张阶段,我们对前三个阶段应用选择性孕育策略,将其扩展为匹配基准 ResNet 模型的残差块配置,同时保持最后一个阶段的 MeanFlow 形式,并进行微调。实验结果表明,在 CIFAR-10 和 CIFAR-100 数据集上,MFI-ResNet 在参数效率方面取得显著的改进,相较于 ResNet-50 参数分别减少 46.28% 和 45.59%,同时仍提高了 0.23% 和 0.17% 的准确率。这表明生成式流场能够有效地表征 ResNet 中的特征变换过程,为理解生成模型与判别学习之间的关系提供了新的视角。

关键词

引用

@article{arxiv.2511.12422,
  title  = {MFI-ResNet: Efficient ResNet Architecture Optimization via MeanFlow Compression and Selective Incubation},
  author = {Nuolin Sun and Linyuan Wang and Haonan Wei and Lei Li and Bin Yan},
  journal= {arXiv preprint arXiv:2511.12422},
  year   = {2025}
}