从优化视角理解并改进网络嵌入的对抗训练
机器学习
2021-12-16 v2
摘要
网络嵌入旨在学习一个将节点映射到欧氏空间的函数，以服务于网络上的多种学习分析任务。然而，真实世界网络背后的噪声信息以及过拟合问题都会对嵌入向量的质量产生负面影响。为解决这些问题，研究者利用网络嵌入的对抗训练（AdvTNE）并取得了最先进的性能。与在网络结构或数据特征上引入扰动的主流方法不同，AdvTNE 直接扰动模型参数，这为理解其背后机制提供了新契机。本文中，我们从优化视角对 AdvTNE 进行理论解释。考虑到网络的幂律特性与优化目标，我们分析了其取得优异结果的原因。基于上述分析，我们提出一种新的激活函数以增强 AdvTNE 的性能。我们在四个真实网络上进行了大量实验，以验证我们的方法在节点分类和链接预测中的有效性。结果表明我们的方法优于最先进的基线方法。
引用
@article{arxiv.2105.08007,
title = {Understanding and Improvement of Adversarial Training for Network Embedding from an Optimization Perspective},
author = {Lun Du and Xu Chen and Fei Gao and Qiang Fu and Kunqing Xie and Shi Han and Dongmei Zhang},
journal= {arXiv preprint arXiv:2105.08007},
year = {2021}
}
备注
11 pages, 0 figures, accepted by WSDM'22