中文

面向向后兼容表征的邻域共识对比学习

计算机视觉与模式识别 2023-03-10 v4

摘要

在目标重识别(ReID)中,深度学习技术的发展常涉及模型更新与部署。部署新模型时,若系统暂停以重新嵌入和重新索引,是难以承受的。因此,向后兼容表征被提出以使“新”特征可直接与“旧”特征比较,即数据库中同时存在“新”与“旧”特征时仍保持可用。从而我们可以滚动刷新数据库,甚至对数据库不做任何操作即可更新。现有向后兼容方法要么要求新旧训练数据间有强重叠,要么仅在实例层级施加约束。因此它们难以处理复杂的簇结构,且在消除旧嵌入中离群点影响方面受限,存在损害新特征判别能力的风险。本工作中,我们提出邻域共识对比学习(NCCL)方法。在对新训练数据不做假设的情况下,我们估计旧嵌入的子簇结构。新嵌入在子类别层级上于嵌入空间与判别空间同时受多个旧嵌入约束。由于多个样本起到“均值教师”的作用,离群点的影响被削弱。此外,我们还提出一种过滤低可信度旧嵌入的方案,进一步提升兼容鲁棒性。我们的方法确保向后兼容性且不损害新模型的精度,且能在多数场景下甚至提升新模型的精度。

关键词

引用

@article{arxiv.2108.03372,
  title  = {Neighborhood Consensus Contrastive Learning for Backward-Compatible Representation},
  author = {Shengsen Wu and Liang Chen and Yihang Lou and Yan Bai and Tao Bai and Minghua Deng and Lingyu Duan},
  journal= {arXiv preprint arXiv:2108.03372},
  year   = {2023}
}

备注

Accepted by AAAI 2022