面向向后兼容行人重识别的动态梯度重激活

我们研究行人重识别（Re-ID）中的向后兼容问题，其旨在约束更新后的新模型特征与库中已有旧模型特征具有可比性。现有工作大多采用基于蒸馏的方法，侧重于迫使新特征去模仿旧特征的分布。然而，基于蒸馏的方法本质上是次优的，因为它强制新特征空间去模仿劣质的旧特征空间。为解决此问题，我们提出基于排序的向后兼容学习（RBCL），其直接优化新特征与旧特征之间的排序度量。与先前方法不同，RBCL仅推动新特征在旧特征空间中找到最佳排序位置而非严格对齐，并且符合向后检索的最终目标。然而，为使排序度量可微而使用的尖锐sigmoid函数也引发了梯度消失问题，从而阻碍了训练后期的排序细化。为解决此问题，我们提出动态梯度重激活（DGR），其可在前向步骤中通过加入动态计算的常数来重激活被抑制的梯度。为进一步帮助定位最佳排序位置，我们引入邻域上下文代理（NCAs）以在训练期间近似整个旧特征空间。与仅在域内设定下测试的先前工作不同，我们首次尝试引入跨域设定（包括有监督与无监督），其更具意义且更困难。在全部五种设定上的实验结果表明，所提出的RBCL在所有设定下均以大幅优势超越先前的SOTA方法。