纵向逻辑回归中基于残差的标签保护机制
机器学习
2025-02-18 v1
摘要
联邦学习（FL）使分布式参与者能够协作学习全局模型，而无需向彼此泄露私有数据。近来，纵向FL（参与者持有相同样本集但特征不同）受到越来越多的关注。本文首先提出一种标签推断攻击方法，以探究纵向逻辑回归模型的潜在隐私泄露。具体而言，我们发现攻击者可以利用残差变量来推断私有标签，这些残差变量通过求解由本地数据集与接收到的解密梯度构成的线性方程组得到。为此，我们进而提出三种保护机制，例如加性噪声机制、乘性噪声机制，以及结合本地差分隐私与同态加密技术的混合机制，以防御该攻击并提升纵向逻辑回归的鲁棒性。实验结果表明，加性噪声机制与乘性噪声机制均能以仅轻微下降的模型测试精度实现高效标签保护；此外，混合机制可在无任何测试精度下降的情况下实现标签保护，这证明了我们保护技术的有效性与高效性。
引用
@article{arxiv.2205.04166,
title = {Residue-based Label Protection Mechanisms in Vertical Logistic Regression},
author = {Juntao Tan and Lan Zhang and Yang Liu and Anran Li and Ye Wu},
journal= {arXiv preprint arXiv:2205.04166},
year = {2025}
}
备注
Accepted by 8th International Conference on Big Data Computing and Communications (BigCom) 2022