深度神经网络与偏积分微分方程离散化
机器学习
2021-11-03 v2
摘要
本文提出可解决卷积神经网络（CNN）稳定性与感受野问题的神经网络。作为增加网络深度或宽度以提升性能的替代方案，我们提出基于积分的空间非局部算子，其与物理科学中若干问题所涉及的全局加权拉普拉斯、分数阶拉普拉斯及逆分数阶拉普拉斯算子相关。此类网络的前向传播受偏积分微分方程（PIDEs）启发。我们在基准图像分类数据集与自动驾驶语义分割任务上测试了所提神经架构的有效性。此外，我们研究了这些稠密算子的额外计算成本以及所提神经网络前向传播的稳定性。
引用
@article{arxiv.2108.02430,
title = {Deep Neural Networks and PIDE discretizations},
author = {Bastian Bohn and Michael Griebel and Dinesh Kannan},
journal= {arXiv preprint arXiv:2108.02430},
year = {2021}
}