通过保守场正则化与积分改进卷积神经网络
计算机视觉与模式识别
2020-03-12 v1 人工智能
摘要
当前卷积神经网络（CNN）的研究主要集中在改变网络架构、优化超参数和改进梯度下降上。然而，大多数工作仅在 CNN 内部使用 3 类标准操作：卷积、激活函数和池化。在这项工作中，我们提出了一类基于拉普拉斯算子格林函数的新操作，它允许网络求解拉普拉斯方程、积分任意向量场，并通过强制场为保守场来正则化该场。因此，格林函数（GF）是首个通过强制二维或三维特征空间为保守场且具物理可解释性来正则化特征空间、而非正则化权重范数的操作。我们的结果表明，此类正则化使网络学习更快、训练曲线更平滑且泛化更好，且无需任何额外参数。本稿件给出了初步结果，仍需更多工作来对所提方法进行基准测试。
引用
@article{arxiv.2003.05182,
title = {Improving Convolutional Neural Networks Via Conservative Field Regularisation and Integration},
author = {Dominique Beaini and Sofiane Achiche and Maxime Raison},
journal= {arXiv preprint arXiv:2003.05182},
year = {2020}
}
备注
11 pages, 3 figures