干预式少样本学习
机器学习
2020-12-07 v2 计算机视觉与模式识别
摘要
我们揭示了当前少样本学习（FSL）方法中一个一直被忽视的缺陷：预训练知识确实是一个限制性能的混杂因子。这一发现源于我们的因果假设：一个描述预训练知识、样本特征与标签之间因果关系的结构因果模型（SCM）。基于此，我们提出一种新的FSL范式：干预式少样本学习（IFSL）。具体而言，我们基于后门调整开发了三种有效的IFSL算法实现，这本质上是对多样本学习SCM的因果干预——从因果视角看即FSL的上界。值得注意的是，IFSL的贡献与现有的基于微调与元学习的FSL方法正交，因此IFSL可改进所有这些方法，在miniImageNet、tieredImageNet和跨域CUB上取得新的1-shot/5-shot最优结果。代码发布于https://github.com/yue-zhongqi/ifsl。
引用
@article{arxiv.2009.13000,
title = {Interventional Few-Shot Learning},
author = {Zhongqi Yue and Hanwang Zhang and Qianru Sun and Xian-Sheng Hua},
journal= {arXiv preprint arXiv:2009.13000},
year = {2020}
}
备注
Accepted by NeurIPS 2020