面向 NLP 的后门学习：近期进展、挑战与未来研究方向
密码学与安全
2023-02-15 v1
摘要
尽管后门学习是 NLP 领域的一个活跃研究课题，但文献中缺乏系统地对后门攻击与防御进行分类和总结的研究。为弥补这一空白，我们通过以系统方式总结文献，提出了一项全面且统一的对 NLP 后门学习的研究。我们首先提出并论证了后门学习对于构建鲁棒 NLP 系统的重要性。接下来，我们详尽阐述了后门攻击技术、其应用、针对后门攻击的防御以及各种移除后门攻击的缓解技术。然后，我们详细回顾并分析了与 NLP 后门学习相关的评估指标、基准数据集、威胁模型和挑战。最终，我们的工作旨在厘清并语境化文本领域现有后门学习文献的格局，并推动该领域的进一步研究。为此，我们指出了文献中令人担忧的空白，并对开放挑战与未来研究方向提供了见解和思路。最后，我们提供了一个 GitHub 仓库，其中包含后门学习论文列表，并将在 https://github.com/marwanomar1/Backdoor-Learning-for-NLP 持续更新。
引用
@article{arxiv.2302.06801,
title = {Backdoor Learning for NLP: Recent Advances, Challenges, and Future Research Directions},
author = {Marwan Omar},
journal= {arXiv preprint arXiv:2302.06801},
year = {2023}
}