基于平均偏置ReLU的CNN描述子用于改进人脸检索

卷积神经网络 (CNN)，包括 AlexNet、GoogleNet、VGGNet 等，为许多计算机视觉问题提取了极具判别力的特征。在一个数据集上训练好的 CNN 模型表现相当好，而在同类型的另一个数据集上，手工设计的特征描述子却优于同一训练好的 CNN 模型。修正线性单元 (ReLU) 层为了引入非线性而丢弃了一些数值。本文提出，在最后几层使用平均偏置 ReLU (AB-ReLU) 可提升训练模型所得深度图像表示的判别能力。具体而言，AB-ReLU 从两方面提升判别能力：1) 它利用了 ReLU 中部分具判别力但被丢弃的负向信息；2) 它也忽略了 ReLU 中使用的不相关正向信息。在 VGG-Face 数据集上于 MatConvNet 中训练的 VGGFace 模型被用作在其他人脸数据集上进行人脸检索的特征描述子。所提方法在六个具有挑战性、无约束且鲁棒的人脸数据集 (PubFig、LFW、PaSC、AR、FERET 和 ExtYale) 以及一个大规模人脸数据集 (PolyUNIR) 的检索框架下进行了测试。观察到在人脸数据集上，与预训练的 VGGFace 模型配合使用时，AB-ReLU 优于 ReLU。将网络中全部 ReLU 替换为 AB-ReLU 后训练所得的验证误差在各数据集上也被观察到更有利。AB-ReLU 甚至在所有七个人脸数据集上优于 SOTA 激活函数，如 Sigmoid、ReLU、Leaky ReLU 和 Flexible ReLU。