利用粗粒度标签的细粒度角度对比学习
计算机视觉与模式识别
2021-06-23 v3
摘要
少样本学习方法提供了预训练技术，经过优化以使模型之后能够利用一个或少量样本更容易地适应新类别（训练时未见过）。这种对未见类别的适应能力对于许多实际应用尤为重要，在这些应用中预训练标签空间无法保持固定以有效使用，且模型需要被“专门化”以即时支持新类别。一个特别有趣、基本上被少样本文献忽视的场景是粗到细少样本（C2FS），其中训练类别（例如动物）比目标（测试）类别（例如品种）的“粒度粗得多”。C2FS 的一个非常实际的例子是目标类别为训练类别的子类。直观地说，这尤其具有挑战性，因为（常规和少样本）监督预训练往往学会忽略对区分子类至关重要的类内差异性。在本文中，我们引入了一种新颖的“角度归一化”模块，能够有效结合监督与自监督对比预训练来处理所提出的 C2FS 任务，在针对多个基线和数据集的广泛研究中展示了显著增益。我们希望这项工作有助于为这一新颖、具挑战性且非常实用的 C2FS 分类课题的未来研究铺平道路。
引用
@article{arxiv.2012.03515,
title = {Fine-grained Angular Contrastive Learning with Coarse Labels},
author = {Guy Bukchin and Eli Schwartz and Kate Saenko and Ori Shahar and Rogerio Feris and Raja Giryes and Leonid Karlinsky},
journal= {arXiv preprint arXiv:2012.03515},
year = {2021}
}