利用信道噪声进行采样与隐私保护：基于量化联邦 Langevin Monte Carlo 的方法
信息论
2022-03-01 v1 信号处理
math.IT
摘要
在人工智能工程应用中，贝叶斯学习相比标准频率学派学习具有显著优势，包括量化不确定性的能力。Langevin Monte Carlo (LMC) 是一种高效的基于梯度的近似贝叶斯学习策略，旨在产生从模型参数后验分布中抽取的样本。已有工作聚焦于通过模拟调制在多接入无线信道上分布式实现 LMC。相反，本文提出量化联邦 LMC (FLMC)，其将局部梯度的一位随机量化与信道驱动采样相结合。信道驱动采样利用信道噪声来促进蒙特卡洛采样，同时也起到隐私机制的作用。作为差分隐私 (DP) 要求的函数，我们比较了无线 LMC 的模拟与数字实现，揭示了后者在足够高信噪比下的优势。
引用
@article{arxiv.2202.13932,
title = {Leveraging Channel Noise for Sampling and Privacy via Quantized Federated Langevin Monte Carlo},
author = {Yunchuan Zhang and Dongzhu Liu and Osvaldo Simeone},
journal= {arXiv preprint arXiv:2202.13932},
year = {2022}
}
备注
5 pages, 4 figures, submitted