图对抗训练：基于图结构的动态正则化
机器学习
2019-12-17 v2 社会与信息网络
机器学习
摘要
近期研究表明，神经网络在视觉分类任务中对输入特征上微小但蓄意的扰动十分脆弱。由于额外考虑了样本间的连接（例如具有引用链接的文章往往属于同一类），图神经网络对扰动可能更为敏感，因为来自相连样本的扰动会加剧对目标样本的影响。对抗训练（AT）作为一种动态正则化技术，能够抵御输入特征上的最坏情况扰动，是提高模型鲁棒性与泛化能力的可行选择。然而，现有 AT 方法聚焦于标准分类，在图上的模型训练时效果不佳，因其未建模来自相连样本的影响。本文探索图上的对抗训练，旨在提升图上学习模型的鲁棒性与泛化性。我们提出图对抗训练（GraphAT），其在学习构造与抵御扰动时考虑相连样本的影响。我们给出 GraphAT 的一般形式，可视为基于图结构的动态正则化方案。为展示 GraphAT 的效用，我们将其应用于最先进的图神经网络模型——图卷积网络（GCN）。我们在两个引用图（Citeseer 与 Cora）和一个知识图（NELL）上实验，验证了 GraphAT 的有效性，其在节点分类准确率上比 GCN 常规训练高出 4.51%。代码见：https://github.com/fulifeng/GraphAT。
引用
@article{arxiv.1902.08226,
title = {Graph Adversarial Training: Dynamically Regularizing Based on Graph Structure},
author = {Fuli Feng and Xiangnan He and Jie Tang and Tat-Seng Chua},
journal= {arXiv preprint arXiv:1902.08226},
year = {2019}
}
备注
Accepted by TKDE