基于跨分辨率关系对比蒸馏的低分辨率目标识别

在低分辨率图像中识别目标是一项具有挑战性的任务，由于缺乏信息丰富的细节。最近的研究表明，知识蒸馏方法可以通过对齐跨分辨率表征来有效地将来自高分辨率教师模型的知识传递给低分辨率学生模型。然而，这些方法仍存在局限性，无法适应识别对象在训练图像与测试图像之间呈现显著表征差异的情况。本文提出了一种基于跨分辨率关系对比蒸馏的方法，以促进低分辨率目标识别。我们的 approach 使学生模型能够模仿一个在高分辨率目标识别中表现卓越的教师模型的行为。为提取足够的知识，学生模型的学习受到对比关系蒸馏损失的监督，该损失在对比表征空间中保留了各种关系结构的相似性。如此一来，恢复熟悉低分辨率目标缺失细节的能力得到了有效提升，从而实现了更好的知识传递。在低分辨率目标分类和低分辨率人脸识别上的大量实验明确显示了我们方法的有效性和适应性。