负边界至关重要：理解少样本分类中的边界
计算机视觉与模式识别
2020-03-27 v1 机器学习
机器学习
摘要
本文向基于度量学习的少样本学习方法引入负边界损失。负边界损失显著优于常规 softmax 损失，并以极少的额外技巧在三个标准少样本分类基准上取得 SOTA 精度。这些结果不同于度量学习领域的常见做法，即边界为零或正。为理解为何负边界损失对少样本分类表现良好，我们从经验和理论两方面分析了所学特征相对于不同边界对训练类和新颖类的可判别性。我们发现，尽管负边界降低了训练类的特征可判别性，其也可能避免将同一新颖类的样本错误映射到多个峰或簇，从而有益于新颖类的判别。代码见 https://github.com/bl0/negative-margin.few-shot。
关键词
引用
@article{arxiv.2003.12060,
title = {Negative Margin Matters: Understanding Margin in Few-shot Classification},
author = {Bin Liu and Yue Cao and Yutong Lin and Qi Li and Zheng Zhang and Mingsheng Long and Han Hu},
journal= {arXiv preprint arXiv:2003.12060},
year = {2020}
}
备注
Code is available at https://github.com/bl0/negative-margin.few-shot