通过数值机制设计实现联邦学习的隐私感知压缩
机器学习
2023-08-11 v3 密码学与安全
摘要
在私有联邦学习（FL）中，服务器聚合来自大量客户端的差分隐私更新，以训练机器学习模型。该设置的主要挑战在于平衡隐私与所学模型的分类准确率以及客户端与服务器之间通信的比特数。先前的工作通过设计一种隐私感知压缩机制（称为最小方差无偏（MVU）机制）实现了良好的权衡，该机制通过数值求解优化问题来确定机制的参数。本文在此基础上，在数值设计过程中引入了一种新的插值过程，从而允许进行更高效的隐私分析。其结果是新的插值 MVU 机制，它具有更强的可扩展性、更好的隐私-效用权衡，并在多种数据集上的通信高效私有 FL 中提供了 SOTA 结果。
引用
@article{arxiv.2211.03942,
title = {Privacy-Aware Compression for Federated Learning Through Numerical Mechanism Design},
author = {Chuan Guo and Kamalika Chaudhuri and Pierre Stock and Mike Rabbat},
journal= {arXiv preprint arXiv:2211.03942},
year = {2023}
}