DiPSeN：用于联邦学习中对抗鲁棒性的差分隐私自归一化神经网络
机器学习
2021-01-12 v1 人工智能
计算机与社会
网络与互联网体系结构
摘要
对稳健、安全且私密的机器学习的需求是实现物联网（IoT）全部潜力的一个重要目标。联邦学习已被证明有助于防范隐私侵犯与信息泄露。然而，它引入了新的风险向量，使得机器学习模型更难以防御对抗样本。在本研究中，我们考察了差分隐私与自归一化在联邦学习环境中缓解对抗样本风险的作用。我们提出了 DiPSeN，一种差分隐私自归一化神经网络（Differentially Private Self-normalizing Neural Network），它将差分隐私噪声与自归一化技术相结合。我们在三个公开数据集上的实证结果表明，基于若干评估指标，DiPSeN 成功提升了联邦学习环境中深度学习分类器的对抗鲁棒性。
引用
@article{arxiv.2101.03218,
title = {DiPSeN: Differentially Private Self-normalizing Neural Networks For Adversarial Robustness in Federated Learning},
author = {Olakunle Ibitoye and M. Omair Shafiq and Ashraf Matrawy},
journal= {arXiv preprint arXiv:2101.03218},
year = {2021}
}