黎曼残差神经网络

几何深度学习近期的方法引入了多种神经网络，以处理位于黎曼流形上的数据。此类网络通常是学习具有层次结构的图或自然科学中遇到的流形值数据所必需的。这些网络常受标准欧氏神经网络启发并直接推广而来。然而，扩展欧氏网络十分困难，且仅对少数选定流形完成。本工作中，我们考察残差神经网络(residual neural network, ResNet)，并展示如何以几何原则的方式将该构造推广到一般黎曼流形。ResNet最初为缓解梯度消失问题而提出，因其有益的学习特性、优异的实证结果以及构建多样神经网络时易于集成，已在机器学习中无处不在。我们发现黎曼ResNet反映了这些理想性质：与现有的专为双曲空间及对称正定矩阵流形设计的流形神经网络相比，我们在相关测试指标和训练动态上均优于这两类网络。