TweepFake：关于深度伪造推文的检测
计算与语言
2021-06-09 v2 机器学习
摘要
语言建模的最新进展显著提升了深度神经模型的生成能力：2019 年 OpenAI 发布了 GPT-2，一个可以自主生成连贯、非平凡且类人的文本样本的预训练语言模型。此后，更强大的文本生成模型被开发出来。对手可以利用这些巨大的生成能力来增强社交机器人，使其有能力撰写看似合理的深度伪造消息，以期污染公共讨论。为防止这种情况，开发深度伪造社交媒体消息检测系统至关重要。然而，据我们所知，尚无人在 Twitter 或 Facebook 等社交网络上处理机器生成文本的检测。为了帮助该检测领域的研究，我们收集了首个 \real 深度伪造推文数据集 TweepFake。其真实之处在于每条深度伪造推文都实际发布于 Twitter。我们从总计 23 个机器人收集推文，模仿 17 个人类账户。这些机器人基于多种生成技术，即马尔可夫链、RNN、RNN+Markov、LSTM、GPT-2。我们还随机选取被机器人模仿的人类所发的推文，以得到一个整体平衡的、包含 25,572 条推文（一半人类、一半机器人生成）的数据集。该数据集已在 Kaggle 上公开。最后，我们评估了 13 种深度伪造文本检测方法（基于多种最先进方法），以展示 TweepFake 带来的挑战并建立可靠的检测技术基线。我们希望 TweepFake 也能为应对社交媒体消息上的深度伪造检测提供契机。
引用
@article{arxiv.2008.00036,
title = {TweepFake: about Detecting Deepfake Tweets},
author = {Tiziano Fagni and Fabrizio Falchi and Margherita Gambini and Antonio Martella and Maurizio Tesconi},
journal= {arXiv preprint arXiv:2008.00036},
year = {2021}
}