深度超球面学习

卷积作为内积一直是卷积神经网络（CNNs）的基础，也是端到端视觉表示学习的关键。得益于更深的架构，近期的CNN已展现出日益强大的表示能力。尽管有此提升，深度的增加与更大的参数空间也带来了正确训练网络的挑战。鉴于这些挑战，我们提出超球面卷积（SphereConv），一种在超球面上给出角度表示的新型学习框架。我们引入SphereNet，即与传统的基于内积的卷积网络不同的深度超球面卷积网络。特别地，SphereNet采用SphereConv作为其基本卷积算子，并由广义角度softmax损失——SphereConv下的自然损失形式——进行监督。我们表明SphereNet能有效编码判别性表示并缓解训练困难，从而带来更易优化、更快收敛以及与卷积对应网络相当（甚至更优）的分类精度。我们还为超球面学习的优势提供了一些理论见解。此外，我们引入了可学习的SphereConv（即相对于预设SphereConv的自然改进）以及SphereNorm（即作为归一化方法的超球面学习）。实验已验证了我们的结论。