通过逆强化学习检测巨魔行为：以2016年美国大选中的俄罗斯巨魔为例
社会与信息网络
2020-06-08 v3 机器学习
摘要
自2016年美国总统大选以来，社交媒体滥用在学术界及更广泛领域引发了巨大关注。在操纵活动中预防和限制用户（如巨魔和机器人）的恶意行为，对于民主、公共健康等方面的完整性至关重要。然而，巨魔账户的自动检测是一项开放性挑战。在这项工作中，我们提出一种基于逆强化学习（IRL）的方法来捕捉巨魔行为并识别巨魔账户。我们采用 IRL 推断一组可能引导用户行为的在线激励，这进而凸显了巨魔与非巨魔账户之间的行为差异，从而实现准确分类。作为一个研究案例，我们考虑美国国会在调查俄罗斯干预2016年美国总统大选时识别出的巨魔账户。我们报告了有前景的结果：基于 IRL 的方法能够准确检测巨魔账户（AUC=89.1%）。两类账户在预测特征上的差异使得对反映巨魔与非巨魔所响应激励的差异化行为有了原则性理解。
引用
@article{arxiv.2001.10570,
title = {Detecting Troll Behavior via Inverse Reinforcement Learning: A Case Study of Russian Trolls in the 2016 US Election},
author = {Luca Luceri and Silvia Giordano and Emilio Ferrara},
journal= {arXiv preprint arXiv:2001.10570},
year = {2020}
}