用于假新闻检测模型的对抗性基准
计算与语言
2022-01-05 v1
摘要
随着在线错误信息的扩散，假新闻检测在人工智能社区中变得重要。在本文中，我们提出了一个对抗性基准，用于测试假新闻检测器对真实世界事实进行推理的能力。我们构建了针对“理解”三个方面的对抗攻击：组合语义、词汇关系以及对修饰语的敏感性。我们使用在 LIAR arXiv:arch-ive/1705648 与 Kaggle Fake-News 数据集上微调的 BERT 分类器测试我们的基准，并表明两个模型均未能对组合与词汇意义的变化作出响应。我们的结果强化了此类模型需与其他事实核查方法结合使用的必要性。
引用
@article{arxiv.2201.00912,
title = {An Adversarial Benchmark for Fake News Detection Models},
author = {Lorenzo Jaime Yu Flores and Yiding Hao},
journal= {arXiv preprint arXiv:2201.00912},
year = {2022}
}
备注
6 pages, 2 figures, Presented at AAAI 2022, Workshop on Adversarial Machine Learning and Beyond