GenFighter：一种生成式与进化式文本攻击去除方法
机器学习
2024-04-18 v1 计算与语言
摘要
对抗攻击对深度神经网络（如自然语言处理中的 Transformer 模型）构成重大挑战。本文引入一种新颖的防御策略，称为 GenFighter，通过学习和推理训练分类分布来增强对抗鲁棒性。GenFighter 通过识别偏离分布的潜在恶意实例，将其转换为与训练数据一致的语义等价实例，并采用集成技术实现统一且稳健的响应。通过开展大量实验，我们展示 GenFighter 在准确率和攻击成功率等指标下超越了最先进的防御方法。此外，它每一次攻击所需的查询次数较多，在实际场景中增加了攻击的难度。消融研究表明，我们的方法集成了迁移学习、生成/进化程序和集成方法，为 NLP 对抗攻击提供了有效防御。
引用
@article{arxiv.2404.11538,
title = {GenFighter: A Generative and Evolutive Textual Attack Removal},
author = {Md Athikul Islam and Edoardo Serra and Sushil Jajodia},
journal= {arXiv preprint arXiv:2404.11538},
year = {2024}
}