用余弦少样本学习器诊断与修正样本数敏感性
计算机视觉与模式识别
2022-07-08 v1 人工智能
机器学习
摘要
少样本识别涉及训练一个图像分类器，以在测试时使用少量样本（shot）区分新概念。现有方法通常假设测试时的样本数已知。这不切实际，且已有研究表明当训练与测试样本数不匹配时，一种流行且基础的方法性能会下降。我们对此现象进行了系统的实证研究。与先前工作一致，我们发现样本数敏感性广泛存在于基于度量的少样本学习器中；但与先前工作相反，更大的神经架构对变化的测试样本数提供了一定程度的固有鲁棒性。更重要的是，一类简单、已知但被极大忽视的基于余弦距离的方法，通过消除对样本噪声的敏感性，持续且大幅提升了针对样本数变化的鲁棒性。我们推导了流行及近期少样本分类器的余弦替代方案，拓展了它们在现实场景中的适用性。这些余弦模型持续改善了样本数鲁棒性，优于先前具有样本数鲁棒性的最优方法（SOTA），并在一系列基准与架构上提供了有竞争力的准确率，包括在极少样本情形下显著提升。
引用
@article{arxiv.2207.03398,
title = {Diagnosing and Remedying Shot Sensitivity with Cosine Few-Shot Learners},
author = {Davis Wertheimer and Luming Tang and Bharath Hariharan},
journal= {arXiv preprint arXiv:2207.03398},
year = {2022}
}