通过 BeamAttack 评估误信息分类系统对对抗样本的鲁棒性
计算与语言
2025-07-04 v2
摘要
我们扩展了 BeamAttack，这是一种用于通过词级修改评估文本分类系统鲁棒性的对抗攻击算法。我们的扩展包括支持词删除和可选择跳过替换，从而发现改变模型预测的最小修改。我们还集成了 LIME 以更好地优先确定词替换。我们在 BODEGA 框架下评估了多个数据集和受害模型（BiLSTM、BERT 和对抗训练的 RoBERTa），我们的ethods 成功率超过 99%，同时保持原始文本的语义和词汇相似性。通过定量和定性分析，我们突出了 BeamAttack 的有效性及其局限性。我们的实现已在 https://github.com/LucK1Y/BeamAttack 上提供。
引用
@article{arxiv.2506.23661,
title = {Robustness of Misinformation Classification Systems to Adversarial Examples Through BeamAttack},
author = {Arnisa Fazla and Lucas Krauter and David Guzman Piedrahita and Andrianos Michail},
journal= {arXiv preprint arXiv:2506.23661},
year = {2025}
}
备注
12 pages main text, 27 pages total including references and appendices. 13 figures, 10 tables. Accepted for publication in the LNCS proceedings of CLEF 2025 (Best-of-Labs track)