用于防御对抗攻击的不确定性感知注意力图神经网络
机器学习
2020-09-23 v1 机器学习
摘要
随着基于图的学习日益流行，图神经网络（GNN）成为从图中获取洞察的关键工具。然而，与已被广泛探索和充分测试的传统 CNN 不同，人们仍担忧 GNN 在关键场景（如金融服务）下的鲁棒性。主要原因在于现有 GNN 在预测时通常作为黑盒，且不提供预测的不确定性。另一方面，贝叶斯深度学习在 CNN 上的近期进展已证明其成功量化并解释此类不确定性以加固 CNN 模型。受这些观察启发，我们提出 UAG，首个通过识别并利用 GNN 中层次化不确定性来防御 GNN 对抗攻击的系统性方案。UAG 发展了贝叶斯不确定性技术（BUT）以显式捕获 GNN 中的不确定性，并进一步采用不确定性感知注意力技术（UAT）来防御 GNN 上的对抗攻击。大量实验表明，我们提出的防御方法以显著优势超越最先进（SOTA）方案。
引用
@article{arxiv.2009.10235,
title = {Uncertainty-aware Attention Graph Neural Network for Defending Adversarial Attacks},
author = {Boyuan Feng and Yuke Wang and Zheng Wang and Yufei Ding},
journal= {arXiv preprint arXiv:2009.10235},
year = {2020}
}