面向表格数据的快速对抗性标签翻转攻击
机器学习
2023-10-18 v1
摘要
机器学习模型正日益用于网络安全等要求高可靠性的领域。然而,这些模型仍易遭受各类攻击,其中对抗性标签翻转攻击构成重大威胁。在标签翻转攻击中, adversary恶意翻转部分训练标签以破坏机器学习模型。本文提出了重大关切,因为此类攻击可将高度偏斜的数据集伪装为易解的分类问题,常误导机器学习从业者降低防御并误算潜在风险。这一关切在表格数据场景下被放大,其中识别真实标签需要专业知识,使得恶意标签翻转攻击易于规避检测。为证明该风险源于adversary的目标,我们提出FALFA(快速对抗性标签翻转攻击),一种用于精心构造对抗标签的新型高效攻击。FALFA基于转换adversary目标并采用线性规划以降低计算复杂度。使用十个真实世界表格数据集,我们展示了FALFA优越的攻击潜力,凸显了对此类威胁构建鲁棒防御的必要性。
引用
@article{arxiv.2310.10744,
title = {Fast Adversarial Label-Flipping Attack on Tabular Data},
author = {Xinglong Chang and Gillian Dobbie and Jörg Wicker},
journal= {arXiv preprint arXiv:2310.10744},
year = {2023}
}
备注
10 pages