FedRight:一种有效的联邦学习模型版权保护方法
密码学与安全
2023-03-21 v1 人工智能
摘要
联邦学习(federated learning, FL)是一种有效的分布式机器学习框架,在实现模型训练的同时保护本地数据隐私。因其优异的性能和可观的收益,它已被应用于广泛的实践领域。模型归谁所有,以及如何保护版权已成为一个现实问题。直观上,集中式场景下的现有产权保护方法(例如水印嵌入和模型指纹)是FL可能的解决方案。但它们仍受到FL分布式特性在无可数据共享、参数聚合和联邦训练设置等方面的挑战。我们首次形式化了FL的版权保护问题,并提出FedRight基于模型指纹保护模型版权,即通过生成对抗样本作为模型指纹来提取模型特征。FedRight在四个关键方面优于以往工作:(i)有效性:它提取模型特征生成可迁移指纹以训练检测器来验证模型的版权。(ii)保真度:它对联邦训练的影响难以察觉,从而有望保持良好的主任务性能。(iii)鲁棒性:经验上它对针对版权保护的恶意攻击(即微调、模型剪枝和自适应攻击)具有鲁棒性。(iv)黑盒:它在仅能调用模型应用程序编程接口的黑盒取证场景下有效。在3个数据集和9种模型结构上的大量评估证明了FedRight优越的保真度、有效性和鲁棒性。
引用
@article{arxiv.2303.10399,
title = {FedRight: An Effective Model Copyright Protection for Federated Learning},
author = {Jinyin Chen and Mingjun Li and Mingjun Li and Haibin Zheng},
journal= {arXiv preprint arXiv:2303.10399},
year = {2023}
}