联邦学习能否兼具隐私性、鲁棒性与可扩展性？
机器学习
2022-08-09 v2 密码学与安全
摘要
在用于医学图像分析的联邦学习中，学习协议的安全性至关重要。此类设置常受到对手的破坏，这些对手或针对联邦所使用的私有数据，或针对模型本身的完整性。这要求医学影像界开发相应机制，以训练对对抗性数据具有隐私性与鲁棒性的协作模型。为应对这些挑战，我们提出一个实用的开源框架，用于研究结合差分隐私、模型压缩与对抗训练以提升模型在训练时与推理时攻击下对抗样本鲁棒性的有效性。借助我们的框架，我们在医学图像分析中取得了具竞争力的模型性能、模型尺寸的显著缩减以及经验对抗鲁棒性的提升，且未出现严重的性能退化，而这一点在医学图像分析中至关重要。
引用
@article{arxiv.2205.02652,
title = {Can collaborative learning be private, robust and scalable?},
author = {Dmitrii Usynin and Helena Klause and Johannes C. Paetzold and Daniel Rueckert and Georgios Kaissis},
journal= {arXiv preprint arXiv:2205.02652},
year = {2022}
}
备注
Accepted at MICCAI DeCaF 2022