Simeon——通过迭代过滤的安全联邦机器学习
机器学习
2021-03-16 v1 密码学与安全
分布式、并行与集群计算
摘要
联邦学习使全局机器学习模型能够由分布式的、互不信任的学习代理协作训练，这些代理希望保持其训练数据与硬件的隐私性。全局模型被分发给客户端，客户端执行训练，并提交其新训练好的模型以聚合为更优模型。然而，联邦学习系统易受恶意学习代理的干扰，这些代理可能意图阻止训练或诱导所得全局模型中的定向误分类。一类拜占庭容错聚合算法已经出现，针对这些攻击提供了不同程度的鲁棒性，通常的附加条件是攻击者数量受训练前已知某一量的限制。本文提出 Simeon：一种新颖的聚合方法，应用基于声誉的迭代过滤技术，即使在表现出任意行为的攻击者存在时也能实现鲁棒性。我们将 Simeon 与最先进的聚合技术进行比较，发现 Simeon 对多种攻击实现了相当或更强的鲁棒性。值得注意的是，我们展示了 Simeon 对女巫攻击（sybil attacks）具有容错性，而其他算法则不具备，这呈现了我们方法的关键优势。
引用
@article{arxiv.2103.07704,
title = {Simeon -- Secure Federated Machine Learning Through Iterative Filtering},
author = {Nicholas Malecki and Hye-young Paik and Aleksandar Ignjatovic and Alan Blair and Elisa Bertino},
journal= {arXiv preprint arXiv:2103.07704},
year = {2021}
}