利用自相似性与滤波检测少样本分类器中的对抗支撑集
密码学与安全
2021-06-29 v2 机器学习
摘要
少样本分类器在有限训练样本下表现出色，使其在用户提供标签稀疏的应用中很有用。其独特的相对预测设置带来了新颖攻击的机会，例如针对归类未见测试样本所需的支撑集，这在其他机器学习设置中并不存在。在本工作中，我们提出一种检测策略以识别对抗支撑集，旨在破坏少样本分类器对某一类别的理解。我们通过引入支撑集自相似性的概念并采用支撑集滤波来实现这一点。我们的方法独立于攻击类型，且据我们所知，我们是首个探索少样本分类器支撑集对抗检测的工作。我们对miniImagenet（MI）和CUB数据集的评估显示出良好的攻击检测性能，尽管概念简单却取得了高AUROC分数。我们表明自相似性与滤波用于对抗检测可与其他滤波函数结合，构成一个可泛化的概念。
引用
@article{arxiv.2012.06330,
title = {Detection of Adversarial Supports in Few-shot Classifiers Using Self-Similarity and Filtering},
author = {Yi Xiang Marcus Tan and Penny Chong and Jiamei Sun and Ngai-Man Cheung and Yuval Elovici and Alexander Binder},
journal= {arXiv preprint arXiv:2012.06330},
year = {2021}
}
备注
Accepted in the International Workshop on Safety and Security of Deep Learning 2021