DeepInsight：可解释性辅助图上的对抗样本检测
社会与信息网络
2021-06-25 v2
摘要
随着人工智能的快速发展，许多机器学习算法（如图神经网络）被提出以促进网络分析或图数据挖掘。尽管有效，近期研究表明这些先进方法可能遭受对抗攻击，即仅当一小部分链接被意外改变时，它们可能失去效力。本文研究了三种著名的对抗攻击方法，即 Nettack、Meta Attack 和 GradArgmax。研究发现不同的攻击方法在改变目标网络结构时具有特定的攻击偏好。此类攻击模式通过在若干真实世界网络上的实验结果得到进一步验证，揭示出通常检测对抗样本时最重要的四个网络属性足以解释一种攻击方法的偏好。基于这些发现，这些网络属性被用于设计机器学习模型，以出色的性能实现对抗样本检测与攻击方法识别。
引用
@article{arxiv.2106.09501,
title = {DeepInsight: Interpretability Assisting Detection of Adversarial Samples on Graphs},
author = {Junhao Zhu and Yalu Shan and Jinhuan Wang and Shanqing Yu and Guanrong Chen and Qi Xuan},
journal= {arXiv preprint arXiv:2106.09501},
year = {2021}
}