中文

CASSOCK:在源特定后门防御壁垒下针对 DNN 的可行后门攻击

密码学与安全 2022-12-20 v2 机器学习

摘要

作为深度神经网络(DNNs)的关键威胁,后门攻击可分为两类,即源无关后门攻击(SABAs)和源特定后门攻击(SSBAs)。与传统的 SABAs 相比,SSBAs 更为先进,因为它们在绕过针对 SABAs 有效的主流对策时具有更优的隐蔽性。然而,现有的 SSBAs 存在两个主要局限。首先,它们难以在 ASR(攻击成功率)和 FPR(假正率)之间取得良好权衡。此外,它们可被最先进的(SOTA)对策(如 SCAn)有效检测。为解决上述局限,我们提出一类新的可行源特定后门攻击,称为 CASSOCK。我们的核心见解是,在 SSBAs 中创建中毒数据和覆盖数据时的触发器设计在展示可行的源特定攻击中起着关键作用,而现有 SSBAs 未考虑这一点。基于该见解,我们在为中毒数据集(样本具有攻击者目标标签)和覆盖数据集(样本具有真实标签)设计触发器时,关注触发器的透明度和内容。具体而言,我们实现了 CASSOCKTransCASSOCK_{Trans}CASSOCKContCASSOCK_{Cont}。虽然二者正交,但彼此互补,生成一种更强大的攻击,称为 CASSOCKCompCASSOCK_{Comp},具有进一步提升的攻击性能和隐蔽性。我们在四个流行数据集和三种 SOTA 防御上对三种基于 CASSOCKCASSOCK 的攻击进行了综合评估。以代表性 SSBA 作为基线(SSBABaseSSBA_{Base}),基于 CASSOCKCASSOCK 的攻击显著提升了攻击性能,即在可比 CDA(干净数据准确率)下更高的 ASR 和更低的 FPR。此外,基于 CASSOCKCASSOCK 的攻击有效绕过了 SOTA 防御,而 SSBABaseSSBA_{Base} 不能。

关键词

引用

@article{arxiv.2206.00145,
  title  = {CASSOCK: Viable Backdoor Attacks against DNN in The Wall of Source-Specific Backdoor Defences},
  author = {Shang Wang and Yansong Gao and Anmin Fu and Zhi Zhang and Yuqing Zhang and Willy Susilo and Dongxi Liu},
  journal= {arXiv preprint arXiv:2206.00145},
  year   = {2022}
}

备注

13 pages,14 figures