正常样本与对抗样本：基于显著性的关系抽取对抗样本分析
计算与语言
2023-01-26 v4 人工智能
数据库
信息检索
机器学习
摘要
近期基于神经网络的关系抽取方法虽然在基准数据集上取得了可喜的改进，但已被报道对对抗攻击存在脆弱性。迄今为止，研究大多集中于生成对抗样本或防御对抗攻击，而正常样本与对抗样本之间的差异却鲜为人知。在这项工作中，我们迈出了第一步，利用基于显著性的方法分析这些对抗样本。我们观察到显著性词元与对抗扰动直接相关。我们进一步发现，对抗扰动要么是训练集中不存在的那些词元，要么是与关系标签相关的表面线索。在某种程度上，我们的方法揭示了针对对抗样本的特征。我们在 https://github.com/zjunlp/DiagnoseAdv 发布了一个开源测试平台“DiagnoseAdv”。
引用
@article{arxiv.2104.00312,
title = {Normal vs. Adversarial: Salience-based Analysis of Adversarial Samples for Relation Extraction},
author = {Luoqiu Li and Xiang Chen and Zhen Bi and Xin Xie and Shumin Deng and Ningyu Zhang and Chuanqi Tan and Mosha Chen and Huajun Chen},
journal= {arXiv preprint arXiv:2104.00312},
year = {2023}
}
备注
IJCKG 2021