对抗表示共享：一种量化且安全的协作学习框架
密码学与安全
2022-03-29 v1 机器学习
摘要
深度学习模型的性能高度依赖于训练数据的数量。当今的数据持有者合并数据集并协作训练模型是常见做法，但这对数据隐私构成威胁。与现有方法如安全多方计算(MPC)和联邦学习(FL)不同，我们发现表示学习在协作学习中具有独特优势，因其通信开销更低且任务无关。然而，数据表示面临模型反演攻击的威胁。在本文中，我们正式定义了协作学习场景，并量化了数据效用与隐私。随后我们提出 ARS，一种协作学习框架，其中用户共享数据表示以训练模型，并向数据表示添加难以察觉的对抗噪声以抵御重建或属性提取攻击。通过在不同场景下评估 ARS，我们证明我们的机制能有效抵御模型反演攻击，并在隐私与效用之间取得平衡。ARS 框架具有广泛适用性。首先，ARS 适用于多种数据类型，不限于图像。其次，用户共享的数据表示可用于不同任务。第三，该框架可轻松扩展至纵向数据划分场景。
引用
@article{arxiv.2203.14299,
title = {Adversarial Representation Sharing: A Quantitative and Secure Collaborative Learning Framework},
author = {Jikun Chen and Feng Qiang and Na Ruan},
journal= {arXiv preprint arXiv:2203.14299},
year = {2022}
}