在线评论系统中的自动化众包水军攻击与防御
密码学与安全
2017-09-11 v2 社会与信息网络
摘要
恶意众包论坛正作为在线传播虚假信息的源头获得关注，但受限于雇佣和管理人工工作者的成本。在本文中，我们识别了一类新型攻击，该攻击利用深度学习语言模型（Recurrent Neural Networks 或 RNNs）自动生成针对产品和服务的虚假在线评论。这些攻击不仅成本低因而更具可扩展性，而且它们可以控制内容输出速率，从而消除使众包活动易于检测的标志性突发性。以 Yelp 评论作为示例平台，我们展示了双阶段评论生成与定制攻击如何生成最先进统计检测器无法区分的评论。我们进行了一项基于调查的用户研究，表明这些评论不仅能逃避人类检测，还在用户的“有用性”指标上得分很高。最后，我们通过利用 RNN 训练和生成周期引入的有损转换，开发了针对这些攻击的新型自动化防御机制。我们考虑了针对我们机制的对抗措施，表明它们为攻击者产生了不具吸引力的成本收益权衡，并且可以通过在线服务提供商施加的简单约束进一步遏制。
引用
@article{arxiv.1708.08151,
title = {Automated Crowdturfing Attacks and Defenses in Online Review Systems},
author = {Yuanshun Yao and Bimal Viswanath and Jenna Cryan and Haitao Zheng and Ben Y. Zhao},
journal= {arXiv preprint arXiv:1708.08151},
year = {2017}
}