基于样本压缩的多跳联邦私有数据增强
机器学习
2019-07-16 v1 网络与互联网体系结构
信号处理
机器学习
摘要
设备端机器学习(ML)为用户带来了海量数据的可及性,同时将其本地数据保持私有而非存于中心实体。然而,为保障隐私,每个设备不可避免地要补偿数据质量或学习性能,尤其当其拥有非独立同分布(non-IID)训练数据集时。本文提出一种使用生成模型的数据增强框架:带样本压缩的多跳联邦增强(MultFAug)。多跳协议通过提升传输容量加速种子样本端到端的空中传输。中继设备也因每个种子样本的来源隐藏于这些参与者中而保障了更强的隐私保护。为在个体样本层面进一步私有化,设备对其数据样本进行压缩。设备在传输前稀疏化其数据样本以减小样本尺寸,这影响了通信负载。该预处理也增强了每个样本的隐私,对应于用于保护样本隐私的输入扰动。数值评估表明,所提框架通过调节跳数与压缩率,显著改善了隐私保障、传输延迟与本地训练性能。
引用
@article{arxiv.1907.06426,
title = {Multi-hop Federated Private Data Augmentation with Sample Compression},
author = {Eunjeong Jeong and Seungeun Oh and Jihong Park and Hyesung Kim and Mehdi Bennis and Seong-Lyun Kim},
journal= {arXiv preprint arXiv:1907.06426},
year = {2019}
}
备注
to be presented at the 28th International Joint Conference on Artificial Intelligence (IJCAI-19), 1st International Workshop on Federated Machine Learning for User Privacy and Data Confidentiality (FML'19), Macao, China