拜占庭机器学习：MultiKrum 与最优鲁棒性概念
机器学习
2026-02-05 v1 人工智能
机器学习
最优化与控制
统计理论
统计理论
摘要
聚合规则是面对敌人（即 Byzantine 威胁模型下）的分布式（或联邦）学习的核心，同时也是鲁棒均值估计中有趣的数学对象的基石。Krum 聚合规则已得到广泛研究，并获得正式的鲁棒性和收敛性保证。然而，MultiKrum 这一 Krum 的自然延伸在实际中常被优先采用，因其在实证性能上表现更佳；但直至现在，尚无理论保证。本文首次证明 MultiKrum 是一种鲁棒聚合规则，并对其鲁棒性系数进行了上、下界分析。为此，我们引入 ，即聚合规则的「最优鲁棒性系数」，该系数比先前采用的鲁棒性概念更紧密地量化了敌人存在下的均值估计精度。我们随后对 MultiKrum 的鲁棒性系数给出上界和下界。作为副产品，我们也改进了对 Krum 鲁棒性系数的最佳已知界限。我们指出，MultiKrum 的界限始终不会劣于 Krum，而在现实情形下更为有利。我们通过对下界质量的实验研究予以说明。
引用
@article{arxiv.2602.03899,
title = {Byzantine Machine Learning: MultiKrum and an optimal notion of robustness},
author = {Gilles Bareilles and Wassim Bouaziz and Julien Fageot and El-Mahdi El-Mhamdi},
journal= {arXiv preprint arXiv:2602.03899},
year = {2026}
}