针对图数据神经网络的对抗攻击
机器学习
2021-12-10 v4 密码学与安全
机器学习
摘要
用于图的深度学习模型在节点分类任务上取得了强劲性能。尽管其广泛应用，目前尚无关于其对对抗攻击鲁棒性的研究。然而，在它们可能被使用的领域（如万维网）中，对抗者十分常见。用于图的深度学习模型容易被欺骗吗？本工作首次开展针对属性图的对抗攻击研究，特别关注利用图卷积思想的模型。除测试时攻击外，我们处理更具挑战性的投毒/成因攻击类，其聚焦于机器学习模型的训练阶段。我们生成针对节点特征与图结构的对抗扰动，从而将实例间依赖关系纳入考虑。此外，我们通过保留重要数据特征确保扰动不被察觉。为应对底层离散域，我们提出一种利用增量计算的高效算法 Nettack。我们的实验研究表明，即使仅进行少量扰动，节点分类准确率也会显著下降。更进一步，我们的攻击具有可迁移性：所学攻击可泛化至其他最先进的节点分类模型与无监督方法，且即使在仅给定有限图知识时同样成功。
引用
@article{arxiv.1805.07984,
title = {Adversarial Attacks on Neural Networks for Graph Data},
author = {Daniel Zügner and Amir Akbarnejad and Stephan Günnemann},
journal= {arXiv preprint arXiv:1805.07984},
year = {2021}
}
备注
Accepted as a full paper at KDD 2018 on May 6, 2018