用于少样本分类的元生成深度注意力度量
计算机视觉与模式识别
2020-12-04 v1
摘要
学习生成任务感知的基学习器被证明是处理少样本学习（FSL）问题的一个有前景的方向。现有方法主要关注生成一种采用固定度量（如余弦距离）进行最近邻分类的嵌入模型，或直接生成线性分类器。然而，由于此类简单度量或分类器的判别能力有限，这些方法无法恰当地泛化到具有挑战性的情形。为缓解该问题，我们提出一种新颖的深度度量元生成方法，转向一个正交方向，即基于任务描述（如少量带标签样本）学习为新 FSL 任务自适应地生成特定度量。在本研究中，我们使用一个三层深度注意力网络来构造该度量，其灵活性足以为每个任务产生判别性度量。此外，不同于现有方法利用以带标签样本为条件的单模态权重分布进行网络生成，所提出的元学习器使用定制的变分自编码器建立以跨类样本对为条件的多模态权重分布，可分别捕获每一类的特定类间差异统计，并将所有类的统计联合嵌入到度量生成中。如此，生成的度量可适当适应新 FSL 任务，并具有令人满意的泛化性能。为证明这一点，我们在四个基准 FSL 数据集上测试所提方法，相较最先进的竞争对手取得了惊人明显性能提升，尤其在挑战性情形下：例如在 miniImageNet 的 20-way 1-shot 任务上准确率从 26.14% 提升至 46.69%，在 FC100 的 5-way 1-shot 任务上准确率从 45.2% 提升至 68.72%。代码已公开：https://github.com/NWPUZhoufei/DAM。
引用
@article{arxiv.2012.01641,
title = {Meta-Generating Deep Attentive Metric for Few-shot Classification},
author = {Lei Zhang and Fei Zhou and Wei Wei and Yanning Zhang},
journal= {arXiv preprint arXiv:2012.01641},
year = {2020}
}