Infer-AVAE：一种基于对抗变分自编码器的属性推断模型
机器学习
2021-06-01 v2 机器学习
摘要
性别、教育程度等用户属性在社交网络中严重不完整。为使这类有价值数据可用于用户画像与个性化推荐等下游任务，属性推断旨在基于观测数据推断用户的缺失属性标签。近来，端到端深度生成模型变分自编码器（VAE）以半监督方式处理该问题并展现出良好性能。然而，VAE 用于属性推断时易受过拟合与过平滑影响。具体而言，以多层感知机（MLP）实现的 VAE 只能重构输入数据，无法推断缺失部分；而以时下流行的图神经网络（GNN）为编码器则存在 GNN 从邻域聚合冗余信息、生成不可区分用户表示（即过平滑）的问题。本文提出一种基于对抗变分自编码器（Adversarial VAE）的属性推断模型 Infer-AVAE 以应对上述问题。具体地，为克服过平滑，Infer-AVAE 在编码器中统一 MLP 与 GNN，分别学习正、负潜在表示；同时训练对抗网络以区分两种表示，并通过对抗训练使 GNN 聚合更少噪声以获得更鲁棒表示。最后，为缓解过拟合，引入互信息约束作为解码器正则化项，使其更好利用表示中的辅助信息并生成不受观测限制的输出。我们在 4 个真实社交网络数据集上评估模型，实验表明其准确率平均较基线提升 7.0%。
引用
@article{arxiv.2012.15005,
title = {Infer-AVAE: An Attribute Inference Model Based on Adversarial Variational Autoencoder},
author = {Yadong Zhou and Zhihao Ding and Xiaoming Liu and Chao Shen and Lingling Tong and Xiaohong Guan},
journal= {arXiv preprint arXiv:2012.15005},
year = {2021}
}