鲁棒且主动安全的无服务器协作学习
机器学习
2023-10-26 v1 密码学与安全
摘要
协作机器学习（ML）被广泛用于使机构能够从分布式数据中学习更好的模型。尽管协作学习方法在直觉上保护了用户数据，它们仍易受到服务器、客户端或两者偏离协议的影响。事实上，由于协议是非对称的，恶意服务器可滥用其权限来重构客户端数据点。反之，恶意客户端可通过恶意更新破坏学习。因此，当无法信任对方完全合作时，客户端与服务器都需要一种保证。本工作中，我们提出了一种点对点（P2P）学习方案，其可抵御恶意服务器且对恶意客户端具有鲁棒性。我们的核心贡献是一个通用框架，可将任何（兼容的）鲁棒模型更新聚合算法转换到服务器与客户端均可能恶意的场景。最后，我们展示了即便使用由数百个对等节点在标准数据集上训练的百万参数模型，该方法仍具有计算高效性。
引用
@article{arxiv.2310.16678,
title = {Robust and Actively Secure Serverless Collaborative Learning},
author = {Olive Franzese and Adam Dziedzic and Christopher A. Choquette-Choo and Mark R. Thomas and Muhammad Ahmad Kaleem and Stephan Rabanser and Congyu Fang and Somesh Jha and Nicolas Papernot and Xiao Wang},
journal= {arXiv preprint arXiv:2310.16678},
year = {2023}
}
备注
Accepted at NeurIPS 2023