面向插入式后门攻击的任务无关检测器

Weimin Lyu; Xiao Lin; Songzhu Zheng; Lu Pang; Haibin Ling; Susmit Jha; Chao Chen

面向插入式后门攻击的任务无关检测器

计算与语言 2024-03-27 v1 密码学与安全

作者: Weimin Lyu , Xiao Lin , Songzhu Zheng , Lu Pang , Haibin Ling , Susmit Jha , Chao Chen

摘要

文本后门攻击构成了严重的安全威胁。当前的检测方法通常依赖于中间特征表示或重建潜在触发器，这些方法具有任务特定性，且在句子分类之外的任务（如问答和命名实体识别）中效果较差。我们引入了 TABDet（任务无关后门检测器），这是一种开创性的任务无关后门检测方法。TABDet 利用最终层 logits 并结合高效的池化技术，实现了跨三种主流 NLP 任务的统一 logit 表示。TABDet 能够从多样化的任务特定模型中联合学习，展现出优于传统任务特定方法的检测效能。

关键词

文本后门攻击后门检测任务无关 TABDet logits 池化 NLP 任务

引用

@article{arxiv.2403.17155,
  title  = {Task-Agnostic Detector for Insertion-Based Backdoor Attacks},
  author = {Weimin Lyu and Xiao Lin and Songzhu Zheng and Lu Pang and Haibin Ling and Susmit Jha and Chao Chen},
  journal= {arXiv preprint arXiv:2403.17155},
  year   = {2024}
}

备注

Findings of NAACL 2024

面向插入式后门攻击的任务无关检测器

摘要

关键词

引用

备注

相关论文