通过特征提取的隐私保护协作学习
机器学习
2022-12-14 v1 密码学与安全
摘要
我们提出一种框架,其中多个实体协作构建机器学习模型,同时保护其数据隐私。该方法利用来自共享/每实体特征提取器的特征嵌入,将数据变换至特征空间以实现实体间协作。我们提出两种具体方法并与基线方法比较。在共享特征提取器(SFE)学习中,实体使用共享特征提取器计算样本的特征嵌入。在本地训练特征提取器(LTFE)学习中,每个实体使用独立的特征提取器,并利用来自所有实体的拼接特征训练模型。作为基线,在协作训练特征提取器(CTFE)学习中,实体通过共享原始数据训练模型。利用安全多方算法训练模型,不以明文泄露数据或特征。我们考察 SFE、LTFE 与 CTFE 在性能、隐私泄露(使用现成的成员推断攻击)以及计算成本之间的权衡。LTFE 提供最高隐私,其次为 SFE,再次为 CTFE。SFE 的计算成本最低,而 CTFE 与 LTFE 的相对速度取决于网络架构。CTFE 与 LTFE 提供最佳精度。我们使用 MNIST、一个合成数据集以及信用卡欺诈检测数据集进行评估。
引用
@article{arxiv.2212.06322,
title = {Privacy-Preserving Collaborative Learning through Feature Extraction},
author = {Alireza Sarmadi and Hao Fu and Prashanth Krishnamurthy and Siddharth Garg and Farshad Khorrami},
journal= {arXiv preprint arXiv:2212.06322},
year = {2022}
}