HashVFL：防御纵向联邦学习中的数据重构攻击
密码学与安全
2024-01-23 v2 机器学习
摘要
纵向联邦学习（VFL）是一种流行的协作式机器学习模型训练方案。现有的工业框架采用同态加密等安全多方计算技术来确保数据安全与隐私。尽管有这些努力，研究表明由于中间表示与原始数据之间的相关性，VFL中仍存在数据泄露风险。神经网络可准确捕捉这些相关性，使攻击者能够重构数据。这强调了持续研究以保护VFL系统的必要性。我们的工作表明，哈希是一种应对数据重构攻击的有前景的方案。哈希的单向性使得攻击者难以从哈希码中恢复数据。然而，在VFL中实现哈希带来了新的挑战，包括梯度消失与信息损失。为解决这些问题，我们提出HashVFL，其集成了哈希并同时实现可学习性、比特平衡与一致性。实验结果表明，HashVFL在防御数据重构攻击的同时有效保持了任务性能。它还带来了额外的好处，包括降低标签泄露程度、缓解对抗攻击以及检测异常输入。我们希望我们的工作能启发对HashVFL潜在应用的进一步研究。
引用
@article{arxiv.2212.00325,
title = {HashVFL: Defending Against Data Reconstruction Attacks in Vertical Federated Learning},
author = {Pengyu Qiu and Xuhong Zhang and Shouling Ji and Chong Fu and Xing Yang and Ting Wang},
journal= {arXiv preprint arXiv:2212.00325},
year = {2024}
}