拓宽后门以容纳更多攻击者
机器学习
2021-10-12 v1 密码学与安全
摘要
随着协作学习以及数据收集外包变得愈发普遍,试图操纵学习过程的恶意行为者(或代理)面临一个额外障碍:它们彼此竞争。在后门攻击中, adversary 试图通过将恶意样本引入训练数据来毒化模型,攻击者必须考虑到额外后门攻击者的存在可能会妨碍其自身后门的成功。在本文中,我们研究多代理后门攻击场景,其中多个互不勾结的攻击者在共享数据集中制作并插入带触发样本,该数据集被一个模型(防御者)用于学习任务。我们发现一种明显的适得其反现象:增加攻击者数量会缩减每个攻击者的攻击成功率(ASR)。随后我们利用该现象,通过(i)人为增加攻击者数量,以及(ii)索引以在推理时从模型中移除攻击者的子数据集,从而最小化攻击者的集体 ASR 并最大化防御者的鲁棒准确率,进而提出两种防御方法。
引用
@article{arxiv.2110.04571,
title = {Widen The Backdoor To Let More Attackers In},
author = {Siddhartha Datta and Giulio Lovisotto and Ivan Martinovic and Nigel Shadbolt},
journal= {arXiv preprint arXiv:2110.04571},
year = {2021}
}