UNEM：用于归纳式少样本学习的 unroll 通用 EM
计算机视觉与模式识别
2025-04-14 v2
摘要
归纳式少样本学习最近引起了计算机视觉领域的广泛关注。然而，当前方法引入了关键超参数，这些超参数控制测试批次的预测统计，如类别平衡程度，显著性影响性能。这些超参数是在验证数据上进行经验网格搜索的，其配置可能因目标数据集和预训练模型而异，使得这种经验搜索既亚优又计算上不可行。在本工作中，我们提出在少样本学习中引入 unroll 范式，也称为"学习以优化"，从而在验证数据上高效有效地学习一组优化后的超参数。具体而言，我们将普遍的期望最大化（EM）优化器的 unroll 版本转化为神经网络架构，将其每个迭代映射到一个层，学习一组关键超参数。我们的 unroll 方法涵盖了各种统计特征分布和预训练范式，包括最新的基础视觉-语言模型和标准视觉-only 分类器。我们报告了全面的实验，覆盖广泛的细粒度下游图像分类任务，显示出所提出的 unroll EM算法相对于迭代变体带来的显著提升。在视觉-only 和视觉-语言基准测试中，实现的改进分别可达到 10% 和 7.5%。
引用
@article{arxiv.2412.16739,
title = {UNEM: UNrolled Generalized EM for Transductive Few-Shot Learning},
author = {Long Zhou and Fereshteh Shakeri and Aymen Sadraoui and Mounir Kaaniche and Jean-Christophe Pesquet and Ismail Ben Ayed},
journal= {arXiv preprint arXiv:2412.16739},
year = {2025}
}
备注
Accepted by CVPR2025