SABLE：安全且拜占庭鲁棒的分布式学习
机器学习
2023-12-15 v4 密码学与安全
分布式、并行与集群计算
摘要
由于数据的广泛可用性，机器学习（ML）算法正日益在分布式拓扑结构中实现，其中多个节点通过中心服务器的协调协作训练ML模型。然而，分布式学习方法面临显著的漏洞，主要源于两种潜在威胁。首先，拜占庭节点的存在有可能通过向服务器传输不准确信息而破坏学习过程。其次，好奇的服务器可能损害各个节点的隐私，有时能重建节点的全部数据。同态加密（HE）已成为在非拜占庭场景下保护分布式学习隐私的主要安全措施。然而，HE巨大的计算需求，尤其对于高维ML模型，阻碍了设计用于非线性鲁棒聚合器的纯同态算子的尝试。本文提出SABLE，首个同态且拜占庭鲁棒的分布式学习算法。SABLE利用HTS，一种实现 prominent 的按坐标截尾均值鲁棒聚合器的新型高效同态算子。设计HTS使我们能够实现HMED，一种新型同态中位数聚合器。在标准ML任务上的大量实验表明，SABLE在保持与非隐私对应方法相当的ML精度的同时，实现了实用的执行时间。
引用
@article{arxiv.2309.05395,
title = {SABLE: Secure And Byzantine robust LEarning},
author = {Antoine Choffrut and Rachid Guerraoui and Rafael Pinot and Renaud Sirdey and John Stephan and Martin Zuber},
journal= {arXiv preprint arXiv:2309.05395},
year = {2023}
}