基于优化训练的度量学习少样本学习器特定任务微调
机器学习
2025-06-24 v1 多媒体
声音
摘要
在少样本分类任务（即所谓的 episode）中，推理时会提供少量带标签的支持样本，以辅助对未带标签的查询样本进行分类。基于度量的模型通常通过在学习到的度量空间中计算查询样本与支持样本嵌入之间的相似度，然后进行最近邻分类来运作。然而，这些带标签的支持样本往往未被充分利用——它们仅用于相似度比较，尽管它们有潜力对度量空间本身进行微调，并将其适配到当前 episode 中的类别。为了解决这个问题，我们提出了一系列简单而有效的、针对特定 episode 的推理时微调方法，用于基于度量的模型，包括旋转除法微调（RDFT）及其两个变体：迭代除法微调（IDFT）和增强除法微调（ADFT）。这些方法从给定的支持集中构建伪支持-查询对，从而使得即使是对于非参数模型也能进行微调。然而，每个任务中极其有限的数据量在应用此类微调策略时带来了严重的过拟合风险。为了缓解这一问题，我们进一步提出在基于优化的元学习框架内训练基于度量的模型。在特定 episode 微调和基于优化的元训练的共同努力下，基于度量的模型具备了在推理时快速适应有限支持样本的能力，同时避免了过拟合。我们在来自不同领域的三个音频数据集上验证了我们的方法，即 ESC-50（环境声音）、Speech Commands V2（口语关键词）和 Medley-solos-DB（乐器）。实验结果表明，我们的方法持续提升了所有评估的基于度量的模型的性能（尤其是基于注意力的模型），并在不同的音频领域上具有良好的泛化能力。
引用
@article{arxiv.2506.17499,
title = {Episode-specific Fine-tuning for Metric-based Few-shot Learners with Optimization-based Training},
author = {Xuanyu Zhuang and Geoffroy Peeters and Gaël Richard},
journal= {arXiv preprint arXiv:2506.17499},
year = {2025}
}