扩展边界：将英文对抗攻击适配至中文
计算与语言
2023-06-09 v1 人工智能
密码学与安全
机器学习
摘要
近期研究揭示 NLP 预测模型易受对抗攻击。多数现有研究聚焦于设计攻击以评估英文 NLP 模型的鲁棒性。文献中对于其他语言 NLP 解决方案的需求日益增长。因此，我们提出一个自然问题：最先进 (SOTA) 攻击方法是否能推广至其他语言。本文探究如何将英文中 SOTA 对抗攻击算法适配至中文。实验表明，先前应用于英文 NLP 的攻击方法在与恰当文本分词及语言约束结合时，可生成高质量中文对抗样本。此外，我们通过关注中文形态与音韵，证明所生成对抗样本可实现高流畅度与语义一致性，进而可用于提升中文 NLP 模型的对抗鲁棒性。
引用
@article{arxiv.2306.04874,
title = {Expanding Scope: Adapting English Adversarial Attacks to Chinese},
author = {Hanyu Liu and Chengyuan Cai and Yanjun Qi},
journal= {arXiv preprint arXiv:2306.04874},
year = {2023}
}
备注
11 pages; in ACL23 TrustNLP 2023: TrustNLP: Third Workshop on Trustworthy Natural Language Processing Colocated with the Annual Conference of the Association for Computational Linguistics (ACL 2023)