PottsMGNet：基于编码器-解码器神经网络的数学解释
计算机视觉与模式识别
2023-09-18 v2
摘要
对于图像处理及许多其他领域中的问题，一大类有效的神经网络具有基于编码器-解码器的架构。尽管这些网络取得了令人印象深刻的性能，但其架构的数学解释仍不成熟。本文从算法角度研究基于编码器-解码器的网络架构，并给出数学解释。我们以用于图像分割的两相 Potts 模型作为解释示例。我们将分割问题与连续设定下的一个控制问题相关联。随后，采用多重网格法(multigrid method)与算子分裂格式，即 PottsMGNet，对连续控制模型进行离散化。我们证明所得的离散 PottsMGNet 等价于一个基于编码器-解码器的网络。经微小修改后，表明许多流行的基于编码器-解码器的神经网络仅是所提出 PottsMGNet 的实例。通过将 Soft-Threshold-Dynamics 作为正则化项引入 PottsMGNet，已证明 PottsMGNet 对网络宽度与深度等网络参数具有鲁棒性，并在含极大噪声的数据集上取得了卓越性能。在几乎所有实验中，新网络在准确率和 dice score 上始终优于或等同于现有的图像分割网络。
引用
@article{arxiv.2307.09039,
title = {PottsMGNet: A Mathematical Explanation of Encoder-Decoder Based Neural Networks},
author = {Xue-Cheng Tai and Hao Liu and Raymond Chan},
journal= {arXiv preprint arXiv:2307.09039},
year = {2023}
}