用于文本分类的隐私保护图卷积网络
社会与信息网络
2022-05-03 v3 计算与语言
密码学与安全
机器学习
摘要
图卷积网络（GCNs）是一种强大的表示学习架构，适用于自然以图形式出现的文档，例如引文或社交网络。然而，敏感个人信息（如带有人员档案或作为边的关系的文档）容易发生隐私泄露，因为训练后的模型可能暴露原始输入。尽管差分隐私（DP）提供了一个有坚实基础的隐私保护框架，但由于其训练特性，GCNs 带来了理论与实际挑战。我们通过将基于差分隐私梯度的训练适配到 GCNs 来应对这些挑战，并使用两种优化器在两种语言的五个 NLP 数据集上进行了实验。我们提出一种基于随机图划分的简单而高效的方法，不仅将基线隐私界提升了 2.7 倍，同时保持了有竞争力的 F1 分数，还提供了 epsilon = 1.0 的强隐私保证。我们表明，在某些建模选择下，隐私保护 GCNs 的性能可达其非隐私变体的 90%，同时正式保证强隐私度量。
引用
@article{arxiv.2102.09604,
title = {Privacy-Preserving Graph Convolutional Networks for Text Classification},
author = {Timour Igamberdiev and Ivan Habernal},
journal= {arXiv preprint arXiv:2102.09604},
year = {2022}
}
备注
Accepted at LREC 2022