针对马格里布情感分析器的同形词攻击
计算与语言
2024-02-06 v1 密码学与安全
机器学习
摘要
我们研究了同形词攻击对来自马格里布北非国家的不同阿拉伯语方言的情感分析（SA）任务的影响。当数据以“Arabizi”书写时，同形词攻击导致 Transformer 分类的 F1 分数从 0.95 下降到 0.33，降幅达 65.3%。本研究旨在突出大型语言模型（LLM）的弱点，并优先考虑合乎道德且负责任的机器学习。
引用
@article{arxiv.2402.03171,
title = {Homograph Attacks on Maghreb Sentiment Analyzers},
author = {Fatima Zahra Qachfar and Rakesh M. Verma},
journal= {arXiv preprint arXiv:2402.03171},
year = {2024}
}
备注
NAML, North Africans in Machine Leaning, NeurIPS, Neural Information Processing Systems