隐私保护的个人模型训练
机器学习
2018-04-04 v3
摘要
许多当前的互联网服务依赖于在用户数据上训练的模型进行推理。通常，训练和推理任务都利用云资源，并由大规模收集的用户个人数据提供。在云端持有和使用此类大规模个人数据集会给数据主体带来隐私风险，但目前这是用户享受此类服务所必需的。我们探索如何在计算向数据靠拢而非将数据移至云端的系统中提供模型训练和推理，从而消除许多当前的隐私风险。具体而言，我们从一小部分用户学习的初始模型出发，利用单个用户的数据在本地对其进行重新训练。我们在两个任务上进行评估：一个监督学习任务，使用神经网络从加速度计轨迹识别用户的当前活动；一个无监督学习任务，在大规模文档集合中识别主题。在两种情况下，准确率均有所提高。我们还分析了该方法对抗对抗攻击的鲁棒性，并通过在典型资源受限设备（树莓派）上的性能评估展示了其可行性。
引用
@article{arxiv.1703.00380,
title = {Privacy-Preserving Personal Model Training},
author = {Sandra Servia-Rodriguez and Liang Wang and Jianxin R. Zhao and Richard Mortier and Hamed Haddadi},
journal= {arXiv preprint arXiv:1703.00380},
year = {2018}
}