AdvCodeMix：针对码混数据的对抗攻击
计算与语言
2021-11-02 v1 机器学习
摘要
近年来关于对抗攻击的研究日益流行。先前研究匮乏的未探索领域之一是对抗攻击对码混数据的影响。因此，在本工作中，我们阐述了首个用于黑盒设定下攻击码混分类模型的文本扰动通用框架。我们依赖多种保持句子语义结构且使人类用户难以察觉攻击的扰动技术。本方法利用词元的重要性，通过多种扰动策略决定攻击位置。我们在孟加拉语-英语与印地语-英语码混数据集上训练的各种情感分类模型上测试了我们的策略，使其F1分数分别降低近51%与53%，若在给定句子中扰动更多词元，该值可进一步降低。
引用
@article{arxiv.2111.00350,
title = {AdvCodeMix: Adversarial Attack on Code-Mixed Data},
author = {Sourya Dipta Das and Ayan Basak and Soumil Mandal and Dipankar Das},
journal= {arXiv preprint arXiv:2111.00350},
year = {2021}
}
备注
Accepted to CODS-COMAD 2022