利用协作学习中的非预期特征泄露
密码学与安全
2018-11-02 v3 人工智能
摘要
协作机器学习及相关技术（如联邦学习）允许多个参与者各自使用自己的训练数据集，通过本地训练并周期性交换模型更新来构建联合模型。我们证明这些更新泄露了关于参与者训练数据的非预期信息，并开发了被动与主动推断攻击来利用该泄露。首先，我们展示恶意参与者可推断他人训练数据中确切数据点（例如特定位置）的存在性（即成员推断）。接着，我们展示该敌手如何推断仅对训练数据子集成立且独立于联合模型旨在捕捉之属性的性质。例如，他可推断特定人物首次出现在用于训练二值性别分类器的照片中的时刻。我们在多种任务、数据集与学习配置上评估了我们的攻击，分析了其局限性，并讨论了可能的防御手段。
引用
@article{arxiv.1805.04049,
title = {Exploiting Unintended Feature Leakage in Collaborative Learning},
author = {Luca Melis and Congzheng Song and Emiliano De Cristofaro and Vitaly Shmatikov},
journal= {arXiv preprint arXiv:1805.04049},
year = {2018}
}
备注
Proceedings of 40th IEEE Symposium on Security & Privacy (S&P 2019)