针对网络嵌入的隐私攻击
机器学习
2019-12-24 v1 密码学与安全
社会与信息网络
机器学习
摘要
数据所有权与数据保护是具有重要伦理与法律影响且日益受到关注的议题，例如欧洲《通用数据保护条例》（GDPR）中确立的被遗忘权。在此背景下，我们研究网络嵌入，即把网络节点表示为低维向量。我们考虑一个典型的社交网络场景，其中节点代表用户，边代表用户之间的关系。我们假设已训练得到节点的网络嵌入。此后，某用户要求删除其数据，需要完全删除相应的网络信息，特别是相应的节点及其关联边。在该设定下，我们分析了在从网络中移除该节点并从嵌入中删除相应节点的向量表示后，关于被移除节点链接结构的显著信息是否仍编码于剩余节点的嵌入向量中。这将需要（可能计算代价高昂的）嵌入重训练。为此，我们部署了一种攻击方法，利用剩余网络和嵌入中的信息来恢复被移除节点的邻居信息。该攻击基于（i）测量网络嵌入中的距离变化，以及（ii）一个在通过移除额外节点所构建的网络上训练的机器学习分类器。我们的实验表明，在许多不同数据集上均可检索到关于被移除节点/用户边的实质性信息。这意味着，为充分保护用户隐私，节点删除需要对原始网络嵌入进行完全重训练——或至少显著修改。我们的结果表明，仅从网络嵌入中删除相应向量表示在隐私视角下是不够的。
引用
@article{arxiv.1912.10979,
title = {Privacy Attacks on Network Embeddings},
author = {Michael Ellers and Michael Cochez and Tobias Schumacher and Markus Strohmaier and Florian Lemmerich},
journal= {arXiv preprint arXiv:1912.10979},
year = {2019}
}