同义替换攻击真的是同义替换攻击吗？
计算与语言
2023-05-09 v3
摘要
在本文中，我们探讨以下问题：同义替换攻击（synonym substitution attacks, SSA）真的是同义替换攻击吗？我们通过考察SSA如何替换原句中的词来切入该问题，并指出当前SSA仍存在未解决的障碍，使其生成无效的对抗样本。我们揭示四种广泛使用的词替换方法生成了很大比例的无效替换词，这些词不合语法或不保留原句语义。接着，我们表明SSA中用于检测无效词替换的语义与语法约束在检测无效对抗样本上高度不足。
引用
@article{arxiv.2210.02844,
title = {Are Synonym Substitution Attacks Really Synonym Substitution Attacks?},
author = {Cheng-Han Chiang and Hung-yi Lee},
journal= {arXiv preprint arXiv:2210.02844},
year = {2023}
}
备注
Findings in ACL 2023. Major revisions compared with previous versions are made to incorporate the reviewers' suggestions. The modifications made are listed in Appendix A