Dim-Krum：基于维度Krum聚合的联邦学习后门防御方法用于NLP
机器学习
2022-10-14 v1 密码学与安全
摘要
尽管联邦学习具有潜力，但已知其容易受到后门攻击。许多鲁棒的联邦聚合方法被提出以降低潜在的后门风险。然而，它们主要在计算机视觉领域得到验证。在本文中，我们发现NLP后门比CV后门更难防御，并提供了理论分析，表明恶意更新检测错误概率由相对后门强度决定。NLP攻击往往具有较小的相对后门强度，这可能导致鲁棒联邦聚合方法对NLP攻击失效。受理论结果的启发，我们可以选择一些具有较高后门强度的维度来解决这个问题。我们提出了一种新的联邦聚合算法Dim-Krum，用于NLP任务，实验结果验证了其有效性。
引用
@article{arxiv.2210.06894,
title = {Dim-Krum: Backdoor-Resistant Federated Learning for NLP with Dimension-wise Krum-Based Aggregation},
author = {Zhiyuan Zhang and Qi Su and Xu Sun},
journal= {arXiv preprint arXiv:2210.06894},
year = {2022}
}
备注
Accepted by Findings of EMNLP 2022