图数据上的对抗样本：攻击与防御的深度洞察
机器学习
2019-05-23 v3 密码学与安全
机器学习
摘要
图深度学习模型，如图卷积网络（GCN），在图数据任务上取得卓越性能。与其他类型深度模型类似，图深度学习模型常遭受对抗攻击。然而，相较于非图数据，离散特征、图连接以及不可感知扰动的不同定义为图数据的对抗攻击与防御带来了独特挑战与机遇。本文提出攻击与防御技术。对于攻击，我们展示离散性问题可通过引入积分梯度轻易解决，积分梯度可准确反映扰动特定特征或边的影响，同时仍受益于并行计算。对于防御，我们观察到目标攻击中被对抗操纵的图在统计上不同于正常图。基于该观察，我们提出一种检视图并恢复潜在对抗扰动的防御方法。我们在多个数据集上的实验显示了所提方法的有效性。
引用
@article{arxiv.1903.01610,
title = {Adversarial Examples on Graph Data: Deep Insights into Attack and Defense},
author = {Huijun Wu and Chen Wang and Yuriy Tyshetskiy and Andrew Docherty and Kai Lu and Liming Zhu},
journal= {arXiv preprint arXiv:1903.01610},
year = {2019}
}
备注
to appear in IJCAI'19