面向深度嵌入学习的不平衡鲁棒 Softmax
计算机视觉与模式识别
2020-11-24 v1
摘要
深度嵌入学习期望学习一个度量空间,其中特征的最大类内距离小于最小类间距离。近年来,在人脸识别(FR)和行人重识别(re-ID)领域,一个研究重点是通过判别性深度嵌入学习解决开集问题。除开集问题外,我们发现不平衡的训练数据是导致 FR 和 re-ID 性能退化的另一个主要因素,且数据不平衡在实际应用中广泛存在。然而,极少有研究探讨数据不平衡为何以及如何影响采用 softmax 或其变体的 FR 和 re-ID 的性能。本工作中,我们从神经网络优化和 softmax 特征分布的角度深入研究了数据不平衡。我们发现,由数据不平衡引起性能退化的一个主要原因是(来自倒数第二全连接层的)权重在特征空间中远离其类中心。基于该分析,我们提出了一个统一框架——不平衡鲁棒 Softmax (IR-Softmax),它能同时解决开集问题并降低数据不平衡的影响。IR-Softmax 可通过直接将权重设为其类中心,推广到任意 softmax 及其变体(对开集问题具有判别性),从而自然解决数据不平衡问题。本工作中,我们在 IR-Softmax 框架下显式重构了两个判别性 softmax (A-Softmax 和 AM-Softmax)。我们在 FR 数据库(LFW、MegaFace)和 re-ID 数据库(Market-1501、Duke)上进行了大量实验,IR-Softmax 优于许多当前最优(state-of-the-art)方法。
引用
@article{arxiv.2011.11155,
title = {Imbalance Robust Softmax for Deep Embeeding Learning},
author = {Hao Zhu and Yang Yuan and Guosheng Hu and Xiang Wu and Neil Robertson},
journal= {arXiv preprint arXiv:2011.11155},
year = {2020}
}
备注
has been accepted by ACCV 2020