面向假新闻检测的对抗性数据投毒：如何在不修改目标新闻的情况下使模型误分类
机器学习
2024-01-05 v2 计算与语言
密码学与安全
摘要
假新闻检测模型对于打击虚假信息至关重要，但可能通过对抗性攻击被操纵。在这篇立场论文中，我们分析了攻击者如何在不操纵原始目标新闻的情况下，损害在线学习检测器对特定新闻内容的性能。在某些情境下，例如社交网络，攻击者无法完全控制所有信息，这种场景确实相当合理。因此，我们展示了攻击者如何可能将投毒数据引入训练数据，以操纵在线学习方法的性能。我们的初步发现揭示了逻辑回归模型基于复杂性和攻击类型的易感性差异。
引用
@article{arxiv.2312.15228,
title = {Adversarial Data Poisoning for Fake News Detection: How to Make a Model Misclassify a Target News without Modifying It},
author = {Federico Siciliano and Luca Maiano and Lorenzo Papa and Federica Baccini and Irene Amerini and Fabrizio Silvestri},
journal= {arXiv preprint arXiv:2312.15228},
year = {2024}
}