基于分层最优传输的少样本学习自适应分布校准
机器学习
2022-10-11 v1 计算机视觉与模式识别
摘要
少样本分类旨在学习一个分类器以识别训练期间未见的类别,所学习的模型基于仅少量训练样本形成的偏置分布很容易过拟合。近期该问题的一种解决方案是通过从具有充足样本的基类中迁移统计量来校准这些少样本类的分布,其中如何决定从基类到新类的迁移权重是关键。然而,学习迁移权重的规范性方法尚未被仔细研究。为此,我们提出一种新颖的分布校准方法,通过学习新样本与基类之间的自适应权重矩阵,其构建于分层最优传输(H-OT)框架之上。通过最小化新样本与基类之间的高层 OT 距离,我们可以将学习到的传输计划视为迁移基类统计量的自适应权重信息。高层 OT 中基类与新类之间代价函数的学习引出了低层 OT 的引入,其考虑基类中所有数据样本的权重。在标准基准上的实验结果表明,我们提出的可插拔模型优于对比方法,并具备理想的跨域泛化能力,表明所学自适应权重的有效性。
引用
@article{arxiv.2210.04144,
title = {Adaptive Distribution Calibration for Few-Shot Learning with Hierarchical Optimal Transport},
author = {Dandan Guo and Long Tian and He Zhao and Mingyuan Zhou and Hongyuan Zha},
journal= {arXiv preprint arXiv:2210.04144},
year = {2022}
}