改进超球面流形上神经网络的学习

卷积神经网络（CNNs）在监督环境下的应用带来了性能的巨幅提升。在超球面流形上操作的 CNN 所学到的表征在人脸识别、人脸辨识及其他监督任务中产生了富有洞见的成果。基于超球面直觉开发了大量激活函数，其在欧几里得空间中的表现优于 softmax。本研究的主要动机是提供洞见。首先，采用球极投影将数据从欧几里得空间（$\mathbb{R}^{n}$）变换到超球面流形（$\mathbb{S}^{n}$），以分析角度间隔损失的表现。其次，从理论与实验上证明，利用球极投影在超球面上构建的决策边界有助于神经网络的学习。实验表明，在现有的 SOTA 角度间隔目标函数上应用球极投影，提升了标准图像分类数据集（CIFAR-10、100）上的性能。此外，我们在疟疾薄血涂片图像上进行了实验，取得了有效结果。代码公开于：https://github.com/barulalithb/stereo-angular-margin。