面向对抗鲁棒多标签分类的攻击可迁移性刻画
机器学习
2021-06-30 v1 密码学与安全
摘要
尽管多标签规避攻击普遍存在，但刻画多标签学习系统对抗脆弱性的根源并评估其可攻击性仍是一个开放且关键的问题。在本研究中，我们关注针对多标签分类器的非定向规避攻击。该威胁的目标是在相同输入扰动下，尽可能多地造成标签误分类。我们的工作通过首先基于多标签分类器的函数性质刻画攻击的可迁移性，从而对多标签对抗攻击获得深入理解。我们通过建立对抗风险的信息论分析，揭示了攻击的可迁移性水平如何决定分类器的可攻击性。此外，我们提出了一种以可迁移性为中心的可攻击性评估方法，称为软可攻击性估计器（SAE），用于评估目标多标签分类器的内在脆弱性水平。该估计器随后被集成为可迁移性调谐正则化项纳入多标签学习范式，以实现对抗鲁棒分类。在真实数据上的实验研究呼应了理论分析，并验证了可迁移性正则化多标签学习方法的有效性。
引用
@article{arxiv.2106.15360,
title = {Attack Transferability Characterization for Adversarially Robust Multi-label Classification},
author = {Zhuo Yang and Yufei Han and Xiangliang Zhang},
journal= {arXiv preprint arXiv:2106.15360},
year = {2021}
}
备注
Accepted in ECML-PKDD 2021