防御性少样本学习
计算机视觉与模式识别
2023-08-28 v2
摘要
本文研究了一个称为防御性少样本学习的新挑战性问题，旨在学习一种抵御对抗攻击的鲁棒少样本模型。将现有对抗防御方法直接应用于少样本学习无法有效解决该问题，这是因为在少样本设定下，训练集与测试集之间通常假设的样本级分布一致性不再成立。为应对此情况，我们提出一个通用防御性少样本学习（DFSL）框架来回答以下两个关键问题：（1）如何将对抗防御知识从一种样本分布迁移到另一种？（2）如何在少样本设定下缩小干净样本与对抗样本之间的分布差距？为回答第一个问题，我们假设任务级分布一致性，提出一种基于 episode 的对抗训练机制以更好地迁移对抗防御知识。至于第二个问题，我们在每个少样本任务内设计了两类分布一致性准则，分别从特征层面和预测层面缩小干净样本与对抗样本间的分布差距。大量实验表明，所提框架能有效使现有少样本模型对对抗攻击具备鲁棒性。代码见 https://github.com/WenbinLee/DefensiveFSL.git。
引用
@article{arxiv.1911.06968,
title = {Defensive Few-shot Learning},
author = {Wenbin Li and Lei Wang and Xingxing Zhang and Lei Qi and Jing Huo and Yang Gao and Jiebo Luo},
journal= {arXiv preprint arXiv:1911.06968},
year = {2023}
}
备注
Accepted to IEEE Transactions on Pattern Analysis and Machine Intelligence (TPAMI) 2022