MgNet：多重网格与卷积神经网络的统一框架
计算机视觉与模式识别
2024-12-20 v2 机器学习
数值分析
数值分析
摘要
我们提出了一个称为 MgNet 的统一模型，该模型同时涵盖了用于图像分类的若干卷积神经网络（CNN）以及用于求解离散化偏微分方程（PDE）的多重网格（MG）方法。该模型基于我们在 CNN 与 MG 方法之间观察到并揭示的紧密联系。例如，CNN 中的池化操作与特征提取分别直接对应于 MG 中的限制操作与迭代光滑子。由于 PDE 中的解空间通常是数据空间的对偶，我们在 CNN 中引入了特征空间与数据空间（二者互为对偶）这一类似概念。借助统一模型中的这些联系与新概念，可以更好地理解 CNN 中各类卷积操作与池化的作用。据此，我们开发了改进的 CNN 模型（具有更少的权重与超参数），在应用于 CIFAR-10 与 CIFAR-100 数据集时，与现有 CNN 模型相比表现出具有竞争力且有时更优的性能。
引用
@article{arxiv.1901.10415,
title = {MgNet: A Unified Framework of Multigrid and Convolutional Neural Network},
author = {Juncai He and Jinchao Xu},
journal= {arXiv preprint arXiv:1901.10415},
year = {2024}
}
备注
30 pages