共享模型还是核心集：基于成员推断攻击的研究
机器学习
2020-07-08 v1 机器学习
摘要
分布式机器学习通常旨在基于分布式数据训练一个全局模型，而不将所有数据收集到中心位置，对此已提出两种不同方法：收集和聚合局部模型（联邦学习）以及收集并在代表性数据摘要（核心集，coreset）上训练。虽然每种方法因不共享原始数据而在一定程度上保护了数据隐私，但在试图从共享信息推断原始数据的复杂攻击下，其保护的确切程度尚不清楚。我们首次从目标模型精度、通信成本和数据隐私三个方面对这两种方法进行比较，其中数据隐私由一种称为成员推断攻击（membership inference attack）的先进攻击策略的精度来衡量。我们的实验量化了每种方法的精度-隐私-成本权衡，并揭示了一种可用于指导模型训练过程设计的非平凡比较结果。
引用
@article{arxiv.2007.02977,
title = {Sharing Models or Coresets: A Study based on Membership Inference Attack},
author = {Hanlin Lu and Changchang Liu and Ting He and Shiqiang Wang and Kevin S. Chan},
journal= {arXiv preprint arXiv:2007.02977},
year = {2020}
}