直推式少样本学习的现实评估

直推式推断在少样本学习中被广泛使用，因为它利用了少样本任务中未标记查询集的统计信息，通常比归纳式对应方法取得明显更好的性能。当前的少样本基准在推理时使用完全类别平衡的任务。我们认为这种人为规律性是不现实的，因为它假设测试样本的边际标签概率已知且固定为均匀分布。实际上，在现实场景中，未标记查询集带有任意且未知的标签边际。我们引入并研究了推理时少样本任务查询集内任意类别分布的影响，去除了类别平衡假象。具体而言，我们将类别的边际概率建模为Dirichlet分布的随机变量，从而在单纯形内实现有原则且现实的采样。这改进了当前的少样本基准，构建了具有任意类别分布的测试任务。我们在3个广泛使用的数据集上实验评估了当前最优的直推式方法，并惊讶地观察到性能大幅下降，某些情况下甚至低于归纳式方法。此外，我们基于$\alpha$-散度提出了互信息损失的推广，可有效处理类别分布变化。经验上，我们表明我们的直推式$\alpha$-散度优化在多个数据集、模型和少样本设定下优于当前最优方法。我们的代码公开于https://github.com/oveilleux/Realistic_Transductive_Few_Shot。