元Stackelberg博弈:应对自适应与混合投毒攻击的联邦学习

联邦学习(FL)易受多种安全威胁。尽管已有各种防御机制被提出,但它们通常是非自适应的,且针对特定类型的攻击,在面对多种不确定、未知和自适应的攻击时显得不足。本文将混合多种攻击下的联邦学习形式化为一个贝叶斯Stackelberg马尔可夫博弈,并据此提出由预训练和在线自适应组成的元Stackelberg防御。其核心思想是在预训练阶段使用强化学习(RL)模拟强攻击行为,然后设计基于元RL的防御来对抗多样化和自适应的攻击。我们开发了一种高效的元学习方法来求解该博弈,从而得到鲁棒且自适应的联邦学习防御。理论上,我们的元学习方法——元Stackelberg学习——在O(ε⁻⁴)次梯度迭代和每次迭代O(ε⁻⁴)个样本下,可证明收敛到一阶ε-元均衡点。实验表明,我们的元Stackelberg框架在面对类型不确定和未知的强模型投毒攻击时表现出色。