针对垂直联邦学习构造对抗样本:通过多臂老虎机实现最优客户端腐败
机器学习
2024-08-09 v1 密码学与安全
摘要
垂直联邦学习 (VFL) 是指每个参与客户端持有数据特征的子集,已在金融、医疗和物联网系统中找到大量应用。然而,通过注入对抗样本 (AEs) 的攻击构成严重威胁,威胁 VFL 模型的安全性。本文通过开发一种新型攻击来破坏 VFL 推理过程,在对手能够适应性地腐败一部分客户端的实际场景下进行研究。我们将寻找最优攻击策略的问题形式化为一个在线优化问题,分为内部的对抗样本生成 (Adversarial Example Generation, AEG) 和外部的腐败模式选择 (Corruption Pattern Selection, CPS) 两个子问题。具体而言,我们建立了 CPS 问题与多臂老虎机 (Multi-Armed Bandit, MAB) 问题的等价性,提出了带经验最大奖励的 Thompson 采样 (E-TS) 算法,使对手能够高效识别用于腐败的最优客户端子集。E-TS 的关键思想是引入对每个臂期望最大奖励的估计,这有助于指定一小组具有竞争力的臂,在这些臂上进行探索,以寻找最优臂。这显著减少了探索空间——否则随着客户端数量的增加,探索空间会迅速变得不可行。我们对 E-TS 的后悔 bound 进行了分析,并在各种流行的 VFL 任务数据集上实证地展示了其高效揭示具有最高攻击成功率的最优腐败模式的能力。
关键词
引用
@article{arxiv.2408.04310,
title = {Constructing Adversarial Examples for Vertical Federated Learning: Optimal Client Corruption through Multi-Armed Bandit},
author = {Duanyi Yao and Songze Li and Ye Xue and Jin Liu},
journal= {arXiv preprint arXiv:2408.04310},
year = {2024}
}
备注
Published on ICLR2024