自动假新闻检测方法对对抗攻击有多脆弱？
计算与语言
2021-07-19 v1
摘要
随着近年来互联网上虚假信息的传播急剧增加，自动化假新闻检测受到越来越多的关注。一些假新闻检测方法已相当成功。然而，检测算法仍存在许多漏洞。其原因在于假新闻发布者可以将其文本结构与表述组织得使检测算法不将其识别为虚假。本文表明，可以自动攻击已训练用于检测假新闻的最先进模型，使其变得脆弱。为此，首先基于一个数据集训练了相应模型。随后，使用 Text-Attack 尝试操纵已训练模型，使先前被正确识别的假新闻被分类为真实新闻。结果表明，可以自动绕过假新闻检测机制，这对现有政策举措具有启示意义。
关键词
引用
@article{arxiv.2107.07970,
title = {How Vulnerable Are Automatic Fake News Detection Methods to Adversarial Attacks?},
author = {Camille Koenders and Johannes Filla and Nicolai Schneider and Vinicius Woloszyn},
journal= {arXiv preprint arXiv:2107.07970},
year = {2021}
}
备注
9 pages, Github: https://github.com/nicolaischneider/FakeNewsDetectionVulnerability