极端多标签文本分类的对抗样本
机器学习
2021-12-15 v1 人工智能
摘要
极端多标签文本分类（XMTC）是一类文本分类问题，其中（i）输出空间极大，（ii）每个数据点可能有多个正标签，且（iii）数据呈现强不平衡分布。随着在推荐系统和网络规模文档自动标注中的应用，XMTC 的研究集中于提升预测精度和处理不平衡数据。然而，基于深度学习的 XMTC 模型针对对抗样本的鲁棒性在很大程度上未被探索。本文中，我们研究 XMTC 模型在对抗攻击下的行为。为此，首先我们定义多标签文本分类问题中的对抗攻击。我们将攻击多标签文本分类器分为（a）正标签定向：目标正标签应跌出 top-k 预测标签，以及（b）负标签定向：目标负标签应进入 top-k 预测标签。接着，通过在 APLC-XLNet 和 AttentionXML 上的实验，我们表明 XMTC 模型对正标签定向攻击高度脆弱，但对负标签定向攻击更鲁棒。此外，实验显示正标签定向对抗攻击的成功率呈不平衡分布。更确切地说，尾部类对对抗攻击高度脆弱，攻击者可生成与实际数据点高度相似的对抗样本。为克服该问题，我们探索了 XMTC 中重平衡损失函数的效果，其不仅提升了尾部类的精度，还改善了这些类对对抗攻击的鲁棒性。我们的实验代码见 https://github.com/xmc-aalto/adv-xmtc
引用
@article{arxiv.2112.07512,
title = {Adversarial Examples for Extreme Multilabel Text Classification},
author = {Mohammadreza Qaraei and Rohit Babbar},
journal= {arXiv preprint arXiv:2112.07512},
year = {2021}
}