部分优于全部：重新审视少样本学习的微调策略
计算机视觉与模式识别
2021-02-09 v1 人工智能
机器学习
摘要
少样本学习的目标是从有限的带标签支撑数据中学习一个能识别未见类的分类器。该任务的常见做法是在基类集上先训练模型，再通过微调（此处微调过程定义为从基类到新类的数据知识迁移，即在少样本场景下的学会迁移）或元学习迁移至新类。然而，由于基类与新颖类无重叠，简单地将基类整体知识迁移并非最优解，因为基模型中的部分知识可能对新类存在偏置甚至有害。本文提出通过冻结或微调基模型中特定层来迁移部分知识。具体而言，若选定某些层进行微调，将对其施加不同学习率以控制所保留可迁移性的程度。为确定哪些层需重铸及其学习率取值，我们引入一种基于进化搜索的高效方法，可同时定位目标层并确定其各自学习率。我们在 CUB 与 mini-ImageNet 上开展大量实验以证明所提方法的有效性。它在基于元学习与非元学习的框架上均达到 SOTA 性能。此外，我们将方法扩展至常规预训练+微调范式并取得一致提升。
引用
@article{arxiv.2102.03983,
title = {Partial Is Better Than All: Revisiting Fine-tuning Strategy for Few-shot Learning},
author = {Zhiqiang Shen and Zechun Liu and Jie Qin and Marios Savvides and Kwang-Ting Cheng},
journal= {arXiv preprint arXiv:2102.03983},
year = {2021}
}
备注
AAAI 2021. A search based fine-tuning strategy for few-shot learning