中文

面向网络嵌入的对抗训练方法

机器学习 2019-09-02 v1 社会与信息网络 机器学习

摘要

网络嵌入是为网络学习连续节点表示的任务,已被证明在链接预测和节点分类等多种任务中有效。现有工作大多旨在将不同的网络结构和属性保留在低维嵌入向量中,却忽视了众多真实世界网络中存在噪声信息以及嵌入学习过程中的过拟合问题。最近,基于生成对抗网络(GANs)的正则化方法被用于正则化嵌入学习过程,其可促使嵌入向量具有全局平滑性。这些方法架构极为复杂,且受 GANs 公认的不收敛问题困扰。本文旨在引入一种更简洁有效的局部正则化方法,即对抗训练,到网络嵌入中,以实现模型鲁棒性和更好的泛化性能。首先,通过定义嵌入空间中的对抗扰动并采用依赖于节点对连接模式的自适应 L2L_2 范数约束来应用对抗训练方法。尽管作为正则化器有效,但它存在可解释性问题,可能阻碍其在某些真实场景中的应用。为改进该策略,我们进一步提出一种可解释的对抗训练方法,通过在离散图域中强制重构对抗样本。这两种正则化方法可应用于许多现有嵌入模型,文中我们以 DeepWalk 作为基础模型进行说明。在链接预测和节点分类上的实证评估证明了所提方法的有效性。

关键词

引用

@article{arxiv.1908.11514,
  title  = {Adversarial Training Methods for Network Embedding},
  author = {Quanyu Dai and Xiao Shen and Liang Zhang and Qiang Li and Dan Wang},
  journal= {arXiv preprint arXiv:1908.11514},
  year   = {2019}
}

备注

The World Wide Web Conference 2019, WWW'19