基于视觉词袋表示知识蒸馏的小样本目标检测
计算机视觉与模式识别
2022-07-26 v1
摘要
尽管基于微调的小样本目标检测方法已取得显著进展,但一个尚未很好解决的关键挑战是在基类上潜在的类特定过拟合以及在 novel 类上样本特定的过拟合。本文设计了一种新颖的知识蒸馏框架来引导目标检测器的学习,从而在基类上的预训练阶段和 novel 类上的微调阶段抑制过拟合。具体而言,我们首先提出一种新颖的位置感知视觉词袋(Position-Aware Bag-of-Visual-Words)模型,用于从有限规模的图像集中学习具有代表性的视觉词袋(BoVW),该词袋基于学习到的视觉词与图像之间的相似性来对通用图像进行编码。然后我们基于一幅图像在两个不同特征空间中应具有一致的 BoVW 表示这一事实来执行知识蒸馏。为此,我们独立于目标检测预先学习一个特征空间,并在该空间中使用 BoVW 对图像进行编码。所得图像的 BoVW 表示可被视为蒸馏知识以引导目标检测器的学习:目标检测器对同一图像提取的特征应推导出与蒸馏知识一致的 BoVW 表示。大量实验验证了方法的有效性,并展示了相对于其他最先进方法的优越性。
引用
@article{arxiv.2207.12049,
title = {Few-Shot Object Detection by Knowledge Distillation Using Bag-of-Visual-Words Representations},
author = {Wenjie Pei and Shuang Wu and Dianwen Mei and Fanglin Chen and Jiandong Tian and Guangming Lu},
journal= {arXiv preprint arXiv:2207.12049},
year = {2022}
}