面向纵向联邦学习的互信息正则化
机器学习
2023-03-01 v2
摘要
纵向联邦学习（VFL）在现实应用中被广泛用于实现协作学习，同时保护数据隐私与安全。然而，已有研究表明，VFL 中无标签方（被动方）可推断拥有标签方（主动方）的敏感标签信息，或对 VFL 实施后门攻击。同时，主动方也可从被动方推断敏感特征信息。这些都给 VFL 系统带来了新的隐私与安全挑战。我们提出一种通用的新防御方法，通过限制私有原始数据（包括特征与标签）与中间输出之间的互信息，在模型效用与隐私之间取得更好的权衡。我们将该防御称为互信息正则化防御（MID）。我们从理论与实验上验证了 MID 方法在防御 VFL 中现有攻击（包括标签推断攻击、后门攻击与特征重构攻击）的有效性。
引用
@article{arxiv.2301.01142,
title = {Mutual Information Regularization for Vertical Federated Learning},
author = {Tianyuan Zou and Yang Liu and Ya-Qin Zhang},
journal= {arXiv preprint arXiv:2301.01142},
year = {2023}
}
备注
12 pages, 9 figures