探索深度学习叛徒追踪中联邦学习的动态
密码学与安全
2024-10-23 v1
摘要
随着深度学习应用的日益普及，大量训练数据的需求引发了对敏感、个人或专有数据的安全隐患。为此，联邦学习（FL）使跨分布数据所有者能够协作训练模型，但带来了模型所有权保护和数据泄露来源识别的挑战。本文在已有工作基础上，探索了将黑盒和白盒叛徒追踪水印技术适用于FL分类器，解决来自不同数据所有者的联邦攻击威胁。本研究表明，泄露抗性白盒指纹可直接实现，且不受FL动态显著影响；而黑盒指纹则受到严重影响，丧失其叛徒追踪功能。为缓解此影响，本文提出通过Dropout正则化增加黑盒关键神经元的数量。尽管仍存在一些需要进一步探索的开放问题，如分析非独立同分布数据集和过参数化模型，但结果表明，即便在训练初期，联邦学习框架下也可实现抗联邦攻击的叛徒追踪，能够识别涉及疑似泄露的所有数据所有者。
引用
@article{arxiv.2407.02111,
title = {Exploring Federated Learning Dynamics for Black-and-White-Box DNN Traitor Tracing},
author = {Elena Rodriguez-Lois and Fernando Perez-Gonzalez},
journal= {arXiv preprint arXiv:2407.02111},
year = {2024}
}
备注
This work has been submitted to the 2nd IEEE International Conference on Federated Learning Technologies and Applications (FLTA 2024) for possible publication