恶意错标与投毒攻击下的主动学习
机器学习
2021-09-03 v4 密码学与安全
机器学习
摘要
深度神经网络通常需要大量标注数据集进行训练，以在图像分类和自然语言处理等许多任务中达到最先进性能。尽管活跃互联网用户每天产生大量数据，但其中大多为未标注数据且易受数据投毒攻击。本文开发了一种高效的主动学习方法，其需要更少的标注样本，并融合了对抗重训练技术，在不增加标注预算的情况下生成额外的标注人工数据。所生成的对抗样本也提供了一种衡量模型脆弱性的途径。为检验所提方法在对抗环境（即恶意错标与数据投毒攻击）下的性能，我们在精简的 CIFAR-10 数据集上进行了广泛评估，该数据集仅含两类：飞机与青蛙。实验结果表明，所提主动学习方法能有效防御恶意错标与数据投毒攻击。具体而言，基于随机采样策略的基线主动学习方法在恶意错标攻击下表现糟糕（约 50%），而所提主动学习方法平均仅使用三分之一数据集即可达到 89% 的所需准确率。
引用
@article{arxiv.2101.00157,
title = {Active Learning Under Malicious Mislabeling and Poisoning Attacks},
author = {Jing Lin and Ryan Luley and Kaiqi Xiong},
journal= {arXiv preprint arXiv:2101.00157},
year = {2021}
}
备注
2021 IEEE Global Communications Conference (GLOBECOM)