理解任务相似性对后门攻击与检测的影响
密码学与安全
2022-10-14 v1 人工智能
摘要
尽管对后门攻击与检测已有广泛研究，关于攻击方攻击能力与防御方检测能力极限的基本问题仍悬而未决。我们认为，这些问题的答案可通过深入理解良性模型应完成的主任务与被植入后门模型实际执行的后门任务之间的关系来寻找。为此，我们利用多任务学习中的相似性度量来形式化定义主任务与后门任务之间的后门距离（相似性），并分析现有隐秘后门攻击，揭示其中大多数未能有效减小后门距离，即便对于有所减小的那些，其隐秘性仍有很大改进空间。因此我们进一步设计了一种称为 TSA 攻击的新方法，在给定距离约束下自动生成后门模型，并证明我们的新攻击确实优于现有攻击，向理解攻击方极限迈进了一步。最重要的是，我们在多个数据集上提供了后门距离与后门可检测性正相关的理论结果与实验证据，表明我们的任务相似性分析确实有助于更好地理解后门风险，并有望识别更有效的缓解措施。
引用
@article{arxiv.2210.06509,
title = {Understanding Impacts of Task Similarity on Backdoor Attack and Detection},
author = {Di Tang and Rui Zhu and XiaoFeng Wang and Haixu Tang and Yi Chen},
journal= {arXiv preprint arXiv:2210.06509},
year = {2022}
}