兄弟助我：基于节点注入的社交机器人检测对抗攻击
密码学与安全
2023-10-12 v1 社会与信息网络
摘要
Twitter等社交平台正遭受大量欺诈用户的围攻。为此，社交机器人检测任务被开发以识别此类虚假用户。由于社交网络的结构，大多数方法基于图神经网络（GNN），而GNN易受攻击。本研究提出一种基于节点注入的对抗攻击方法，旨在欺骗机器人检测模型。值得注意的是，当在目标机器人周围加入一个新机器人时，目标机器人与新注入的机器人均无法被检测到。该攻击以黑盒方式进行，即与受害模型相关的任何信息均未知。据我们所知，这是首项通过图节点注入探究机器人检测鲁棒性的研究。此外，我们开发了属性恢复模块，将注入节点嵌入从图嵌入空间还原至原始特征空间，使攻击者能有效操控节点扰动。我们在两个广泛使用的数据集Cresci-2015与TwiBot-22上，对四种常用GNN结构的机器人检测进行了对抗攻击。在两个数据集上攻击成功率超过73%，且新注入节点被检测为机器人的比例低于13%。
引用
@article{arxiv.2310.07159,
title = {My Brother Helps Me: Node Injection Based Adversarial Attack on Social Bot Detection},
author = {Lanjun Wang and Xinran Qiao and Yanwei Xie and Weizhi Nie and Yongdong Zhang and Anan Liu},
journal= {arXiv preprint arXiv:2310.07159},
year = {2023}
}