PDO-eConvs：基于偏微分算子的等变卷积
计算机视觉与模式识别
2020-08-12 v2 机器学习
摘要
近期研究表明，将等变性引入神经网络架构非常有帮助，且已有一些工作探究网络在群作用下的等变性。然而，由于数字图像与特征图位于离散网格上，相应的保持等变性的变换群十分有限。本工作中，我们从卷积与偏微分算子（PDOs）之间的联系来处理此问题。理论上，假设输入为光滑的，我们变换 PDOs 并提出一个对更一般的连续群即 维欧几里得群等变的系统。在实现中，我们使用 PDOs 的数值格式离散化该系统，导出近似等变卷积（PDO-eConvs）。理论上，PDO-eConvs 的近似误差为二阶。这是首次在等变性为近似时提供误差分析。在旋转 MNIST 与自然图像分类上的大量实验表明，PDO-eConvs 性能具有竞争力且参数利用效率更高。特别地，与 Wide ResNets 相比，我们的方法仅使用 12.6% 的参数便取得更好结果。
引用
@article{arxiv.2007.10408,
title = {PDO-eConvs: Partial Differential Operator Based Equivariant Convolutions},
author = {Zhengyang Shen and Lingshen He and Zhouchen Lin and Jinwen Ma},
journal= {arXiv preprint arXiv:2007.10408},
year = {2020}
}
备注
Accepted by ICML2020