众包系统的数据投毒攻击与防御

大数据分析的一个关键挑战是如何收集大量（带标签的）数据。众包旨在通过聚合与估计来自普适客户端/用户的高质量数据（例如文本的情感标签）来解决该挑战。现有众包研究集中于设计新方法以从不可靠/有噪声的客户端提升聚合数据质量。然而，此类众包系统的安全方面至今仍未被充分探索。我们在本工作中致力于弥补这一缺口。具体而言，我们表明众包易遭数据投毒攻击，其中恶意客户端提供精心构造的数据以破坏聚合数据。我们将所提出的数据投毒攻击表述为一个最大化聚合数据误差的优化问题。在一个合成与两个真实世界基准数据集上的评估结果证明，所提攻击能大幅增大聚合数据的估计误差。我们还提出两种防御以降低恶意客户端的影响。经验结果表明，所提防御能大幅降低数据投毒攻击的估计误差。